1
00:00:03,003 --> 00:00:05,405
(תרועה תזמורתית גדולה
משחק)

2
00:00:27,795 --> 00:00:30,163
♪ ♪

3
00:00:41,843 --> 00:00:44,144
(ציפורים מצייצות וקוראות)

4
00:00:49,216 --> 00:00:51,519
-(קשקשת)
-(טרילינג)

5
00:00:55,657 --> 00:00:58,058
(מכשיר הווידאו מקליק וזועף)

6
00:01:01,194 --> 00:01:02,630
(לחיצה על המקרן)

7
00:01:05,332 --> 00:01:09,637
עכשיו, המחשבים של ימינו
הם מטומטמים גמורים,

8
00:01:09,671 --> 00:01:12,507
אבל זה לא יהיה נכון
בדור אחר.

9
00:01:12,540 --> 00:01:15,342
הם יתחילו לחשוב,
ובסופו של דבר הם יעשו זאת

10
00:01:15,375 --> 00:01:17,845
לחשוב לגמרי
היוצרים שלהם.

11
00:01:17,879 --> 00:01:20,582
האם זה מדכא?
אני לא מבין למה זה צריך להיות.

12
00:01:20,615 --> 00:01:25,352
אני חושד שזה אורגני
או אבולוציה ביולוגית

13
00:01:25,385 --> 00:01:27,220
הגיע לסופו.

14
00:01:28,322 --> 00:01:29,791
(דניאל מצחקק)

15
00:01:29,824 --> 00:01:31,224
קרוליין: <i>את לא רוצה אותי</i>
<i>להיות המספר.</i>

16
00:01:31,258 --> 00:01:32,694
<i>אין לי קול טוב.</i>

17
00:01:32,727 --> 00:01:34,461
דניאל: <i>יש לך קול נהדר.</i>
<i>פשוט תעשה את זה.</i>

18
00:01:34,494 --> 00:01:36,598
<i>זה רק--</i>
<i>אנחנו רק מנסים את זה.</i>

19
00:01:36,631 --> 00:01:38,432
קרוליין:
<i>האם אני מקבל תשלום על החרא הזה?</i>

20
00:01:38,465 --> 00:01:40,768
דניאל (צוחק): <i>טוב,</i>
<i>נראה עד כמה אתה מצליח.</i>

21
00:01:40,802 --> 00:01:42,202
<i>(קרוליין צוחקת)</i>

22
00:01:42,235 --> 00:01:44,304
-♪ ♪
-(כלב נובח)

23
00:01:46,908 --> 00:01:48,576
קרוליין:
אני צריך להתקשר להורים שלי.

24
00:01:48,610 --> 00:01:49,309
(מנוע מתניע)

25
00:01:49,343 --> 00:01:51,478
<i>לפעמים אנחנו ממהרים לעסוק בדברים</i>

26
00:01:51,512 --> 00:01:53,347
<i>בלי לחשוב עליהם.</i>

27
00:01:53,380 --> 00:01:54,916
דניאל: כן, אתה יכול...
אתה רוצה לירות? זה...

28
00:01:54,949 --> 00:01:57,752
קרוליין: <i>כמו כשדניאל</i>
<i>וקרוליין התחתנה</i>

29
00:01:57,785 --> 00:02:00,755
<i>151 ימים לאחר שנפגשו.</i>

30
00:02:00,788 --> 00:02:02,523
<i>בואו נדלג אחורה.</i>

31
00:02:03,691 --> 00:02:05,325
(מחיאות כפיים)

32
00:02:05,359 --> 00:02:07,562
האם חשבת על
לקנות מחשב ביתי?

33
00:02:07,595 --> 00:02:09,631
קרוליין:
<i>ב-1993, כשדניאל נולד,</i>

34
00:02:09,664 --> 00:02:12,533
<i>להורים שלו אפילו לא היה</i>
<i>מחשב בבית.</i>

35
00:02:12,567 --> 00:02:14,334
<i>אבל הוא זוכר</i>
<i>כשהם סוף סוף קיבלו אחד.</i>

36
00:02:14,368 --> 00:02:16,269
מה זה מחשב בשבילי

37
00:02:16,303 --> 00:02:18,873
המקבילה לאופניים
עבור המוח שלנו.

38
00:02:18,906 --> 00:02:20,608
שלום.

39
00:02:20,642 --> 00:02:22,777
קרוליין: <i>המחשב שלו עזר</i>
<i>שחרר את היצירתיות שלו.</i>

40
00:02:22,810 --> 00:02:24,411
דניאל:
מתגלגל. לָלֶכֶת.

41
00:02:24,444 --> 00:02:27,247
קרוליין: <i>הוא השתמש ב</i>
<i>ה-iMac של אבא שלו כדי לערוך סרטונים.</i>

42
00:02:27,280 --> 00:02:28,650
כן!

43
00:02:28,683 --> 00:02:30,618
קרוליין: <i>ואפילו להכין</i>
<i>אנימציות קטנות.</i>

44
00:02:30,652 --> 00:02:32,419
(צמיגים צווחים, מתרסקים)

45
00:02:32,452 --> 00:02:35,690
<i>ב-1998, כשקרוליין הייתה</i>
<i>ילדה קטנה...</i>

46
00:02:35,723 --> 00:02:37,290
היי, אמא.

47
00:02:37,324 --> 00:02:38,593
<i>...רק חנונים ידעו</i>
<i>מה היה האינטרנט.</i>

48
00:02:38,626 --> 00:02:40,360
ומה לגבי
עניין האינטרנט הזה?

49
00:02:40,394 --> 00:02:41,696
-האם אתה, אתה יודע משהו
על זה? -בַּטוּחַ.

50
00:02:41,729 --> 00:02:43,330
-(קהל צוחק)
-קרוליין: <i>אבל בקרוב,</i>

51
00:02:43,363 --> 00:02:45,399
<i>-כולם היו ב...</i>
-...אינטרנטים.

52
00:02:45,432 --> 00:02:47,467
<i>...ומחשבים היו</i>
<i>להכות בני אדם בשחמט.</i>

53
00:02:47,502 --> 00:02:50,470
קריין: כחול עמוק--
קספרוב התפטר!

54
00:02:50,505 --> 00:02:52,874
קרוליין: <i>ועד הזמן</i>
<i>קרוליין למדה בקולג',</i>

55
00:02:52,907 --> 00:02:55,543
<i>מחשבים היו</i>
<i>בכיס של כולם.</i>

56
00:02:55,576 --> 00:02:58,713
<i>עכשיו דניאל יכול לעשות סרטים</i>
<i>עם הטלפון שלו.</i>

57
00:02:58,746 --> 00:03:02,215
<i>הוא גדל להיות אמן</i>
<i>ויוצר סרטים...</i>

58
00:03:02,249 --> 00:03:04,418
-לילה טוב.
<i>-... וכך גם קרוליין.</i>

59
00:03:04,451 --> 00:03:06,286
גזור. בוא ניכנס לתקריב.
זה היה מושלם.

60
00:03:06,319 --> 00:03:07,822
<i>עד אז, המחשבים היו</i>
<i>מחבר אנשים</i>

61
00:03:07,855 --> 00:03:09,456
<i>ולשנות את העולם בדרכים</i>

62
00:03:09,489 --> 00:03:10,925
<i>שאינו לעולם</i>
<i>יכולתי לדמיין.</i>

63
00:03:10,958 --> 00:03:12,694
כל הכסף שגויס על ידי
אתגר דלי הקרח...

64
00:03:12,727 --> 00:03:14,796
קרוליין:
<i>חלק מזה היה טוב.</i>

65
00:03:14,829 --> 00:03:15,963
(מתנשף)

66
00:03:15,997 --> 00:03:17,565
<i>חלקם לא כל כך טובים.</i>

67
00:03:17,598 --> 00:03:19,701
חרדה, פגיעה עצמית, התאבדות...

68
00:03:19,734 --> 00:03:21,602
אבל זה ברור עכשיו
שלא עשינו מספיק

69
00:03:21,636 --> 00:03:24,839
כדי למנוע את הכלים הללו
משמש גם להזיק.

70
00:03:24,872 --> 00:03:26,741
קרוליין: <i>וכמו העולם</i>
<i>התרכז יותר ויותר</i>

71
00:03:26,774 --> 00:03:28,543
<i>-במחשבים שלהם,</i>
- (צלצול טלפון)

72
00:03:28,576 --> 00:03:31,211
<i>דניאל התמקד ביצירות האמנות שלו.</i>

73
00:03:32,312 --> 00:03:36,249
<i>לאן שהוא הלך,</i>
<i>תמיד היה לו ספר סקיצות,</i>

74
00:03:36,283 --> 00:03:38,720
<i>כולל הלילה</i>
<i>הוא פגש את קרוליין.</i>

75
00:03:38,753 --> 00:03:41,923
<i>הוא צייר תמונה נוראית</i>
<i>שלה, ו-20 דקות לאחר מכן,</i>

76
00:03:41,956 --> 00:03:44,592
<i>הוא התבטא באומץ</i>
<i>הם התכוונו להתחתן,</i>

77
00:03:44,625 --> 00:03:47,862
<i>מה, כפי שאתה יודע, הם עשו,</i>
<i>151 ימים לאחר מכן.</i>

78
00:03:47,895 --> 00:03:50,464
אישה: ...עכשיו תבטא אותך
בעל ואישה.

79
00:03:50,497 --> 00:03:51,933
קרוליין:
<i>הם עברו לבית חמוד...</i>

80
00:03:51,966 --> 00:03:53,433
-דניאל: מוס, היי! בוא הנה!
<i>-...וקיבלתי כלב</i>

81
00:03:53,467 --> 00:03:54,936
<i>טיפש כמו דניאל.</i>

82
00:03:54,969 --> 00:03:57,872
<i>בינתיים, מחשבים היו</i>
<i>כתיבת מאמרים שלמים</i>

83
00:03:57,905 --> 00:03:59,707
<i>מבוסס על שאלות פשוטות כמו,</i>

84
00:03:59,741 --> 00:04:02,777
<i>"כמה קשה יהיה לבנות</i>
<i>צריף בחצר האחורית שלי?"</i>

85
00:04:03,443 --> 00:04:06,514
<i>וכך דניאל בנה צריף</i>
<i>בחצר האחורית שלו.</i>

86
00:04:07,380 --> 00:04:10,317
<i>אבל בדיוק כשהוא התיישב להתחיל</i>
<i>עובד על הסרט הבא שלו,</i>

87
00:04:10,350 --> 00:04:14,488
<i>הוא למד שמחשבים</i>
<i>עכשיו יכול לכתוב תסריטים.</i>

88
00:04:15,422 --> 00:04:16,891
<i>כלומר, הם היו גרועים,</i>

89
00:04:16,924 --> 00:04:19,326
<i>אבל הם השתפרו</i>
<i>ממש מהר.</i>

90
00:04:19,359 --> 00:04:21,929
<i>הם יכולים ליצור תמונות חדשות</i>
<i>וסרטונים מאפס,</i>

91
00:04:21,963 --> 00:04:25,032
<i>וכמה מהם</i>
<i>יכול אפילו לעבור את מבחן לשכת עורכי הדין.</i>

92
00:04:25,066 --> 00:04:29,402
לא רק לעבור את הבר אלא
להיות בעשרת האחוזון העליון.

93
00:04:29,436 --> 00:04:31,038
קרוליין:
<i>זה היה מבלבל.</i>

94
00:04:31,072 --> 00:04:32,607
(אנחות)

95
00:04:32,640 --> 00:04:35,543
<i>דניאל רק רצה</i>
<i>אופניים לנפשו,</i>

96
00:04:35,576 --> 00:04:39,080
<i>אבל מחשבים הפכו ל</i>
<i>ספינת רקטות בנהיגה עצמית.</i>

97
00:04:39,113 --> 00:04:40,648
(משששש)

98
00:04:40,681 --> 00:04:42,517
("אנחנו בשליטה"
מאת ניל יאנג משחק)

99
00:04:42,550 --> 00:04:45,385
חלוצים בתחום
של בינה מלאכותית

100
00:04:45,418 --> 00:04:46,821
<i>מתחננים בפני הקונגרס</i>

101
00:04:46,854 --> 00:04:48,856
<i>כדי להעביר כללי בטיחות</i>
<i>לפני שיהיה מאוחר מדי.</i>

102
00:04:48,890 --> 00:04:50,858
קרוליין: <i>עכשיו זה הרגיש כמו</i>
<i>כל העולם</i>

103
00:04:50,892 --> 00:04:53,528
<i>מיהר לתוך משהו</i>
<i>בלי לחשוב על זה,</i>

104
00:04:53,561 --> 00:04:55,830
<i>ולכולם הייתה דעה.</i>

105
00:04:56,564 --> 00:05:00,635
<i>האם זה יהרוס את העולם</i>
<i>או להציל את האנושות?</i>

106
00:05:00,668 --> 00:05:02,804
<i>היה יותר מדי מידע,</i>

107
00:05:02,837 --> 00:05:05,106
<i>מה שגרם לו לחרדה,</i>
<i>מה שגרם לקרוליין חרדה...</i>

108
00:05:05,139 --> 00:05:06,541
(צעקה נסערת)

109
00:05:06,574 --> 00:05:08,042
עדיין אין לי ילדים,
אבל אני דואג

110
00:05:08,075 --> 00:05:10,645
איך העולם היה נראה
אם אחליט. (מצחקק)

111
00:05:10,678 --> 00:05:12,947
קרוליין:
<i>הוא התחיל להסתחרר.</i>

112
00:05:12,980 --> 00:05:14,549
(פטפוט לא ברור)

113
00:05:14,582 --> 00:05:17,685
<i>זה הפך להיות</i>
<i>הר של חרדה.</i>

114
00:05:19,620 --> 00:05:22,322
גבר: זה נורא.
זה מטורף סירי.

115
00:05:23,124 --> 00:05:25,893
קרוליין:
<i>ולכן, דניאל החליט לצאת</i>

116
00:05:25,927 --> 00:05:28,529
<i>ולמצא מישהו</i>
<i>מי יכול להסביר לו את זה,</i>

117
00:05:28,563 --> 00:05:30,631
<i>כדי שיוכל לעצור</i>
<i>חושב על זה</i>

118
00:05:30,665 --> 00:05:33,835
<i>והוא וקרוליין יכלו</i>
<i>להמשיך בחייהם.</i>

119
00:05:33,868 --> 00:05:37,437
♪ אנחנו בשליטה,
אנחנו בשליטה ♪

120
00:05:37,470 --> 00:05:39,006
♪ אנחנו בשליטה ♪

121
00:05:39,040 --> 00:05:41,042
♪ מחשב כימי
סוללת חשיבה ♪

122
00:05:41,075 --> 00:05:42,877
♪ אנחנו בשליטה, אנחנו... ♪

123
00:05:42,910 --> 00:05:45,980
<i>המאמץ הזה יתברר</i>
<i>להיות תמימים ללא תקווה</i>

124
00:05:46,013 --> 00:05:49,584
<i>ותתחיל את הדבר המבלבל ביותר</i>
<i>שנת חייו.</i>

125
00:05:49,617 --> 00:05:50,985
♪ אנחנו בשליטה... ♪

126
00:05:51,018 --> 00:05:53,420
<i>אבל כפי שאנו יודעים,</i>
<i>לפעמים אנו ממהרים לעסוק בדברים</i>

127
00:05:53,453 --> 00:05:54,956
<i>בלי לחשוב עליהם.</i>

128
00:05:54,989 --> 00:05:56,791
♪ מחשב כימי
סוללה חושב... ♪

129
00:05:56,824 --> 00:05:58,491
אוי, אלוהים. מה קורה?

130
00:05:58,526 --> 00:06:00,127
קרוליין:
<i>היו לו שאלות.</i>

131
00:06:00,161 --> 00:06:02,096
<i>שאלות רק את</i>
<i>החנונים החכמים ביותר יכלו לענות.</i>

132
00:06:02,129 --> 00:06:04,665
הגשה לחוקר.

133
00:06:04,699 --> 00:06:06,399
קרוליין:
<i>שאלות כמו:</i>

134
00:06:06,433 --> 00:06:09,103
<i>האם זו האפוקליפסה</i>
<i>או שבאמת הייתה לו סיבה</i>

135
00:06:09,136 --> 00:06:10,705
<i>-להיות אופטימי?</i>
-כן.

136
00:06:11,305 --> 00:06:14,407
-♪ חשיבה ממוחשבת כימית
סוללה. ♪ -(שיר מסתיים)

137
00:06:14,441 --> 00:06:16,677
קרוליין:
<i>אה, זה טוב?</i>

138
00:06:16,711 --> 00:06:18,112
דניאל:
<i>כן.</i>

139
00:06:18,145 --> 00:06:20,648
<i>אז, כדי להתחיל,</i>

140
00:06:20,681 --> 00:06:22,482
<i>מהי בינה מלאכותית?</i>

141
00:06:22,516 --> 00:06:25,152
<i>אני יודע שזה בטח מעצבן</i>
<i>עבורך, השאלה הזו,</i>

142
00:06:25,186 --> 00:06:27,021
אבל אני כן חושב שזה חשוב.

143
00:06:27,054 --> 00:06:30,423
אז... AI...

144
00:06:30,457 --> 00:06:32,459
(מגמגמת) אממ...

145
00:06:32,492 --> 00:06:34,161
-כן...
-אה, הממ.

146
00:06:34,195 --> 00:06:35,196
(צוחק):
זו שאלה טובה.

147
00:06:35,229 --> 00:06:36,697
-כן, אממ...
-אממ...

148
00:06:36,731 --> 00:06:38,165
דניאל:
מה זה AI?

149
00:06:38,199 --> 00:06:39,634
(צוחק)

150
00:06:39,667 --> 00:06:41,035
אני אוהב את זה
השאלה הראשונה,

151
00:06:41,068 --> 00:06:43,671
כי אין
תשובה ברורה ועקבית.

152
00:06:43,704 --> 00:06:45,740
בינה מלאכותית היא

153
00:06:45,773 --> 00:06:51,178
סוג של בכוונה
ואולי מונח רחב חסר תועלת.

154
00:06:51,212 --> 00:06:53,781
דיוויד אוון האריס:
זו מכונה

155
00:06:53,814 --> 00:06:56,083
עושה דברים ש
בעבר רק חשבנו

156
00:06:56,117 --> 00:06:57,718
שאנשים יכולים לעשות:

157
00:06:57,752 --> 00:07:01,656
מתן המלצות,
החלטות ותחזיות.

158
00:07:01,689 --> 00:07:07,228
AI הוא, אה, היישום
של מדעי המחשב

159
00:07:07,261 --> 00:07:09,664
לפתרון בעיות קוגניטיביות.

160
00:07:09,697 --> 00:07:13,768
אוקיי, אז כשאני מדמיינת AI,

161
00:07:13,801 --> 00:07:17,204
<i>זה בערך כמו</i>
<i>קופסת המחשב הקסומה הזו...</i>

162
00:07:17,238 --> 00:07:19,640
♪ ♪

163
00:07:20,708 --> 00:07:24,645
<i>...פשוט, כאילו, צף</i>
<i>ב, כמו, חלל אינרטי.</i>

164
00:07:24,679 --> 00:07:26,847
ולא משנה
כמה פעמים אנשים מנסים

165
00:07:26,881 --> 00:07:30,051
ותסביר לי את זה,
אני פשוט לא מבין איך...

166
00:07:30,084 --> 00:07:32,887
<i>איך זה מובן</i>
<i>כל הדברים האלה</i>

167
00:07:32,920 --> 00:07:36,190
<i>ואיך זה מרגיש</i>
<i>מודיעין.</i>

168
00:07:36,223 --> 00:07:37,692
(צפצוף, פטפוט אלקטרוני)

169
00:07:37,725 --> 00:07:39,927
<i>וזה סוג של</i>
<i>מורט עצבים.</i>

170
00:07:41,729 --> 00:07:46,499
עזה רסקין: <i>מה זה</i>
<i>הדור החדש הזה של AI?</i>

171
00:07:47,535 --> 00:07:50,638
AI זה שונה מ
כל דור אחר?

172
00:07:50,671 --> 00:07:53,040
כאילו, אף אחד אף פעם
דיברו על, כאילו,

173
00:07:53,074 --> 00:07:57,545
סירי משתלטת על העולם
או לגרום לאסון.

174
00:07:57,578 --> 00:07:59,080
-אישה: היי, סירי?
-מאן: ...רוצה.

175
00:07:59,113 --> 00:08:01,115
אישה:
שלום? סירי?

176
00:08:01,148 --> 00:08:02,984
שלום? היי, סירי!

177
00:08:03,017 --> 00:08:06,253
או הקול בגוגל מפות,
שמבטאת שמות דרכים לא נכונה,

178
00:08:06,287 --> 00:08:07,888
כמו, לשבור את החברה.

179
00:08:07,922 --> 00:08:10,992
MAN: גוגל מפות אומר
זהו כביש.

180
00:08:11,025 --> 00:08:13,627
(צוחק):
אבל אני חושב שאני בתוך נהר.

181
00:08:13,661 --> 00:08:14,996
זה בהחלט נהר,
אינט?

182
00:08:15,029 --> 00:08:17,898
משהו השתנה
עם ChatGPT יוצא.

183
00:08:18,532 --> 00:08:20,568
אנשים הבינו-- לא, לא, לא--

184
00:08:20,601 --> 00:08:21,869
של הטכנולוגיה הזו
בעל ערך בטירוף,

185
00:08:21,902 --> 00:08:24,005
זה חזק בטירוף
וגם מפחיד בטירוף.

186
00:08:24,038 --> 00:08:25,940
בסדר, תקשיבי לזה.
מאוד מצמרר.

187
00:08:25,973 --> 00:08:28,976
בינה מלאכותית חדשה
הכלי הופך ויראלי

188
00:08:29,010 --> 00:08:32,980
על הוצאת חיבורים שלמים
תוך שניות.

189
00:08:36,217 --> 00:08:41,722
בינה מלאכותית מגמדת את כוחם של כולם
טכנולוגיות אחרות משולבות.

190
00:08:41,756 --> 00:08:44,058
דניאל:
"AI מגמד את הכוח

191
00:08:44,091 --> 00:08:46,827
מכל שאר הטכנולוגיות
בשילוב."

192
00:08:46,861 --> 00:08:47,762
כֵּן.

193
00:08:47,795 --> 00:08:49,230
אתה חושב שזה נכון?

194
00:08:49,263 --> 00:08:51,265
כֵּן.

195
00:08:51,298 --> 00:08:53,567
ספר לי על-- איך? אֵיך?

196
00:08:53,601 --> 00:08:57,038
אני חושב, כדי לצייר את התמונה הזו,
זה ממש חשוב

197
00:08:57,071 --> 00:09:01,175
להבין מה היום
מערכות מתקדמות

198
00:09:01,208 --> 00:09:02,777
נראים ואיך הם בנויים.

199
00:09:02,810 --> 00:09:06,280
(צוחק) זהו
די... די התקנה.

200
00:09:06,313 --> 00:09:07,782
<i>אז, דבר אחד ש</i>

201
00:09:07,815 --> 00:09:10,051
<i>לא הרבה אנשים</i>
<i>תבין האם זה</i>

202
00:09:10,084 --> 00:09:14,221
מערכות כמו ChatGPT לא
מתוכנת על ידי כל אדם.

203
00:09:14,255 --> 00:09:15,756
למה אתה מתכוון?

204
00:09:15,790 --> 00:09:17,625
במקום זאת, זה משהו כמו
הם מבוגרים.

205
00:09:17,658 --> 00:09:19,727
אנחנו קצת נותנים להם
משאבים גולמיים, כמו,

206
00:09:19,760 --> 00:09:21,629
"הנה הרבה
משאבים חישוביים.

207
00:09:21,662 --> 00:09:22,730
יש כאן הרבה נתונים".

208
00:09:22,763 --> 00:09:24,165
מתחת למכסה המנוע, זה מתמטיקה,

209
00:09:24,198 --> 00:09:27,668
והמתמטיקה היא למעשה
פשוט באופן מפתיע.

210
00:09:27,701 --> 00:09:31,672
דניאל: אז ChatGPT הוא סוג
של AI אבל זה לא הכל של AI?

211
00:09:31,705 --> 00:09:33,207
לְגַמרֵי. ChatGPT הוא
רק ההתחלה,

212
00:09:33,240 --> 00:09:34,675
אבל זה מקום טוב להתחיל בו.

213
00:09:34,708 --> 00:09:38,145
אבל אני עדיין לא יודע
מה זה AI.

214
00:09:38,179 --> 00:09:40,848
כדי להבין AI,
זה מתחיל בהבנה

215
00:09:40,881 --> 00:09:43,717
שהאינטליגנציה עוסקת בו
זיהוי דפוסים.

216
00:09:43,751 --> 00:09:45,186
-דפוסים. -דפוסים.
-דפוסים.

217
00:09:45,219 --> 00:09:48,956
COTRA: <i>זה מוצג</i>
<i>טריליוני מילים של טקסט</i>

218
00:09:48,989 --> 00:09:51,826
<i>על פני מיליוני מסמכים</i>
<i>באינטרנט.</i>

219
00:09:51,859 --> 00:09:53,127
רנדימה פרננדו:
<i>זה התחיל בטקסט.</i>

220
00:09:53,160 --> 00:09:56,197
ומה שהם עשו זה
הם לקחו ספרי לימוד,

221
00:09:56,230 --> 00:09:59,967
<i>והם לקחו שירים ומאמרים</i>
<i>ומדריכי הוראות.</i>

222
00:10:00,000 --> 00:10:01,368
דיוויד אוון האריס:
<i>הם יכולים לעשות דברים כמו</i>

223
00:10:01,402 --> 00:10:03,370
<i>עכל את כל האינטרנט,</i>

224
00:10:03,404 --> 00:10:07,108
כל מילה שיש אי פעם
נכתב על ידי אדם.

225
00:10:07,141 --> 00:10:10,244
שרשורי Reddit ומדיה חברתית
וכל ויקיפדיה.

226
00:10:10,277 --> 00:10:14,048
יותר נתונים ממה שכל אחד יכול
קרא אי פעם בכמה תקופות חיים.

227
00:10:14,081 --> 00:10:15,950
והם נתנו את המערכת הזו
עבודה אחת.

228
00:10:15,983 --> 00:10:18,953
להבין את הדפוסים ו
מבנה המידע הזה

229
00:10:18,986 --> 00:10:21,122
ולהשתמש בזה
לעשות תחזיות לגבי

230
00:10:21,155 --> 00:10:23,791
איזו מילה צריכה לבוא אחר כך
במשפט.

231
00:10:23,824 --> 00:10:25,426
כשאתה אומר
"דפוסים במשפט",

232
00:10:25,459 --> 00:10:27,128
על מה אתה מדבר

233
00:10:27,161 --> 00:10:29,864
אז זה הכל, כמו,
הדברים הפשוטים באמת,

234
00:10:29,897 --> 00:10:32,266
כמו שרוב המשפטים מסתיימים
עם מחזור,

235
00:10:32,299 --> 00:10:35,402
כל הדרך עד ל
דברים רעיוניים יותר, כמו:

236
00:10:35,436 --> 00:10:37,138
מהי סונטה?

237
00:10:37,171 --> 00:10:39,039
זה סוג של שיר, ויש לו
מבנה מסוים כלשהו.

238
00:10:39,707 --> 00:10:41,809
ראסקין:
<i>אז, הוא מסתכל על</i>

239
00:10:41,842 --> 00:10:44,011
<i>כל הנתונים האלה,</i>
<i>כל הטקסט הזה...</i>

240
00:10:44,044 --> 00:10:46,313
COTRA: <i>ומעל טריליונים</i>
<i>וטריליוני ניסיונות,</i>

241
00:10:46,347 --> 00:10:49,150
בכל פעם שהוא מקבל משהו
נכון או לא נכון,

242
00:10:49,183 --> 00:10:51,819
<i>זה נתון קצת</i>
<i>של חיזוק חיובי</i>

243
00:10:51,852 --> 00:10:53,888
<i>כשזה מנחש</i>
<i>המילה הבאה כהלכה,</i>

244
00:10:53,921 --> 00:10:56,090
וזה נתון קצת
של חיזוק שלילי

245
00:10:56,123 --> 00:10:58,926
<i>כשזה מנחש</i>
<i>המילה הבאה לא נכונה.</i>

246
00:10:59,727 --> 00:11:02,029
<i>ובסוף זה,</i>
<i>יש לך מערכת ש</i>

247
00:11:02,062 --> 00:11:05,332
מדבר אנגלית ממש טובה
כתופעת לוואי

248
00:11:05,366 --> 00:11:07,168
להיות ממש ממש טוב
בניבוי

249
00:11:07,201 --> 00:11:09,103
המילה שמגיעה אחר כך
בקטע טקסט.

250
00:11:09,136 --> 00:11:11,972
(קול אוטומטי
דובר צרפתית)

251
00:11:12,006 --> 00:11:14,308
הוא משתמש בכל הדפוסים האלה
זה למד

252
00:11:14,341 --> 00:11:16,277
<i>להיות מסוגל לעשות</i>
<i>תחזית לגבי</i>

253
00:11:16,310 --> 00:11:17,811
<i>מה צריכה להיות התשובה,</i>

254
00:11:17,845 --> 00:11:19,180
<i>אז זה נותן לך את זה</i>
<i>כפלט.</i>

255
00:11:19,213 --> 00:11:21,482
קול אוטומטי:
זה קצת פשטני מדי,

256
00:11:21,516 --> 00:11:23,717
אבל אני חושב שאנשים יקבלו את זה.

257
00:11:23,751 --> 00:11:25,252
אז, אז זה כל מה שזה עושה?

258
00:11:25,286 --> 00:11:27,354
כֵּן. זה לא נראה כמו
זה יהיה כל כך מסובך,

259
00:11:27,388 --> 00:11:28,489
אבל בעצם אתה צריך לדעת

260
00:11:28,523 --> 00:11:30,057
<i>כמות עצומה של דברים</i>

261
00:11:30,090 --> 00:11:32,092
<i>כדי</i>
<i>בעצם להצליח בזה.</i>

262
00:11:32,793 --> 00:11:34,461
ראסקין:
<i>אם אתה אומר ל-ChatGPT,</i>

263
00:11:34,495 --> 00:11:37,131
<i>"כתוב לי שייקספירי</i>
<i>סונט על הכלב שלי,"</i>

264
00:11:37,164 --> 00:11:39,166
<i>זה חייב לדעת מה זה כלבים.</i>

265
00:11:39,200 --> 00:11:40,935
<i>-זה חייב לדעת מה אתה אוהב</i>
<i>על הכלב שלך.</i> -(נובח)

266
00:11:40,968 --> 00:11:43,304
<i>זה חייב לדעת</i>
<i>מי זה שייקספיר,</i>

267
00:11:43,337 --> 00:11:46,040
<i>שסונטות מתחרזות,</i>
<i>שיש להם מבנה,</i>

268
00:11:46,073 --> 00:11:48,342
<i>שלמילים יש צלילים</i>
<i>שיכול לחרוז.</i>

269
00:11:48,375 --> 00:11:49,843
<i>זה דורש הרבה.</i>

270
00:11:49,877 --> 00:11:51,212
(קולות חופפים
בשפות שונות)

271
00:11:51,245 --> 00:11:53,280
חרא, אתה יכול לדבר
למחשב שלך עכשיו.

272
00:11:53,314 --> 00:11:56,350
זה פשוט לא היה נכון
לפני שלוש שנים.

273
00:11:56,383 --> 00:11:58,085
רסקין: כן, וזהו
החלק החשוב באמת.

274
00:11:58,118 --> 00:12:01,055
<i>אותו תהליך שמאפשר AI</i>

275
00:12:01,088 --> 00:12:03,490
<i>חשוף ותפעל</i>
<i>תבניות הטקסט</i>

276
00:12:03,525 --> 00:12:06,160
<i>זה אותו תהליך</i>
<i>שמאפשר לו לחשוף</i>

277
00:12:06,193 --> 00:12:10,231
<i>הדפוסים של כל</i>
<i>היקום וכל מה שבו.</i>

278
00:12:10,831 --> 00:12:13,234
FERNANDO: <i>יש תבניות</i>
<i>ותמונות וקול</i>

279
00:12:13,267 --> 00:12:16,470
<i>בקוד מחשב ו-DNA</i>
<i>ומוזיקה ופיזיקה</i>

280
00:12:16,504 --> 00:12:18,973
<i>ועיצוב אופנה ומבנה</i>

281
00:12:19,006 --> 00:12:22,042
(מעוות): <i>וב</i>
<i>קולות אנושיים ופנים אנושיות,</i>

282
00:12:22,076 --> 00:12:24,245
(בדרך כלל):
<i>באמת, באמת בכל מקום.</i>

283
00:12:24,278 --> 00:12:26,347
-בכל מקום. -בְּכָל מָקוֹם.
-בְּכָל מָקוֹם. -בְּכָל מָקוֹם.

284
00:12:26,380 --> 00:12:28,182
אם למדת
הדפוסים האלה,

285
00:12:28,215 --> 00:12:30,117
אתה יכול ליצור
סוגים חדשים של שירים.

286
00:12:30,150 --> 00:12:31,785
אתה יכול ליצור סרטונים חדשים.

287
00:12:31,819 --> 00:12:33,087
ובגלל זה, אם אתה נותן את זה

288
00:12:33,120 --> 00:12:35,322
הקלטה של שלוש שניות
של סבתא שלך,

289
00:12:35,356 --> 00:12:37,224
<i>זה יכול לדבר בחזרה בקולה.</i>

290
00:12:37,258 --> 00:12:38,092
הו, אלוהים.

291
00:12:38,125 --> 00:12:41,061
(חוזר):
<i>הו, אלוהים. הו, אלוהים.</i>

292
00:12:41,095 --> 00:12:43,397
<i>על מה הם יחשבו אחר כך?</i>

293
00:12:43,430 --> 00:12:44,532
זה זז מאוד מאוד מהר.

294
00:12:44,566 --> 00:12:46,400
סטארט-אפ אמריקאי בינה מלאכותית

295
00:12:46,433 --> 00:12:48,068
הוציאה את הדגם האחרון שלה.

296
00:12:48,102 --> 00:12:51,171
החברה הזו היא אנתרופית,
וזה רק נחשף

297
00:12:51,205 --> 00:12:54,174
<i>הגרסאות האחרונות</i>
<i>של עוזר הבינה המלאכותית קלוד.</i>

298
00:12:54,208 --> 00:12:57,411
GLENN BECK: <i>אז, צוות xAI</i>
<i>היה שם כדי לחשוף את גרוק 4.</i>

299
00:12:57,444 --> 00:13:00,414
MAN: <i>גוגל פרסמה אחד</i>
<i>רק בשבוע שעבר. מזל תאומים הוא...</i>

300
00:13:00,447 --> 00:13:03,417
עברנו מ-GPT-2
רק לפני שנתיים,

301
00:13:03,450 --> 00:13:06,020
שבקושי הצליח לכתוב
פסקה קוהרנטית,

302
00:13:06,053 --> 00:13:08,322
ל-GPT-4,
שיכול לעבור את מבחן לשכת עורכי הדין.

303
00:13:08,355 --> 00:13:10,924
וכל מה שהיה עליהם לעשות
להגיע לשם

304
00:13:10,958 --> 00:13:13,294
היה בעצם להוסיף עוד נתונים
ועוד מחשוב.

305
00:13:13,327 --> 00:13:16,897
-האנשים האלה שהם
בונה את זה... -COTRA: כן.

306
00:13:16,930 --> 00:13:18,332
...הם רק זורקים עוד...

307
00:13:18,365 --> 00:13:22,236
יותר מחשבים פיזיים,
יותר מאותם סוגי נתונים.

308
00:13:22,269 --> 00:13:25,039
כי כמה שיותר
כוח מחשוב שאתה מוסיף,

309
00:13:25,072 --> 00:13:28,375
המורכב יותר
משימות אינטלקטואליות שהם יכולים לעשות.

310
00:13:28,409 --> 00:13:30,444
<i>אז, כמה שיותר נתוני מזג אוויר</i>
<i>אתה נותן את זה,</i>

311
00:13:30,477 --> 00:13:32,446
<i>כמה שיותר טוב</i>
<i>עשה תחזיות לגבי</i>

312
00:13:32,479 --> 00:13:34,448
<i>לאן עלול להגיע הוריקן.</i>

313
00:13:34,481 --> 00:13:36,584
RASKIN: <i>ועוד דפוסים</i>
<i>של גידולים ועצמות</i>

314
00:13:36,618 --> 00:13:39,253
<i>ורקמות ש-AI ראה,</i>
<i>אז ככל שהוא מסוגל יותר</i>

315
00:13:39,286 --> 00:13:42,489
<i>כדי לזהות גידול</i>
<i>בסריקת CT חדשה.</i>

316
00:13:42,524 --> 00:13:44,124
<i>עדיף אפילו מרופא אנושי.</i>

317
00:13:44,158 --> 00:13:47,328
AI זה כבר קיים
נפרס עבור הצבא

318
00:13:47,361 --> 00:13:49,463
<i>כבר יכול להשתמש</i>
<i>תמונות לוויין,</i>

319
00:13:49,496 --> 00:13:52,199
<i>תנועות חיילים, תקשורת</i>
<i>כדי לקבוע,</i>

320
00:13:52,232 --> 00:13:53,934
<i>- לפעמים ימים מראש,</i>
-(צפירת ההגנה האזרחית רועמת)

321
00:13:53,967 --> 00:13:55,336
<i>היכן מתקפה</i>
<i>הולך לקרות,</i>

322
00:13:55,369 --> 00:13:57,605
<i>כמו איפה אויב</i>
<i>הולך לשבות.</i>

323
00:13:57,639 --> 00:14:00,007
טריסטן האריס: <i>כל זה</i>
<i>המרחב זז כל כך מהר</i>

324
00:14:00,040 --> 00:14:02,142
כי כל דוגמה
אתה מכניס את הסרט הזה

325
00:14:02,176 --> 00:14:05,112
ירגיש מגושם לחלוטין
עד שהוא יוצא.

326
00:14:05,145 --> 00:14:07,348
(צפצוף, לחיצה)

327
00:14:09,950 --> 00:14:11,653
-(מחיאות כפיים)
-(מוזיקה אופטימית מתנגנת)

328
00:14:11,686 --> 00:14:14,421
ראסקין:
<i>דגמים אלה משוחררים</i>

329
00:14:14,455 --> 00:14:17,391
<i>לפני שמישהו יודע</i>
<i>למה הם בכלל מסוגלים.</i>

330
00:14:17,424 --> 00:14:22,896
<i>GPT-3.5 שוחרר ויצא</i>
<i>ל-100 מיליון אנשים פלוס</i>

331
00:14:22,930 --> 00:14:26,333
<i>לפני כמה חוקרים</i>
<i>גילה שזה יכול לעשות</i>

332
00:14:26,367 --> 00:14:29,203
כימיה בדרגת מחקר
טוב יותר מדגמים

333
00:14:29,236 --> 00:14:33,240
שהוכשרו במיוחד
לעשות כימיה בדרגת מחקר.

334
00:14:33,273 --> 00:14:36,009
משהו קורה שם בפנים
כי האנשים

335
00:14:36,043 --> 00:14:38,546
שבונים אותם
לא לגמרי מבין.

336
00:14:38,580 --> 00:14:41,348
בעיקרון, זה רק מנתח
הנתונים בפני עצמם,

337
00:14:41,382 --> 00:14:45,419
ובזמן שזה עושה את זה,
זה רק מלמד את עצמו

338
00:14:45,452 --> 00:14:48,355
דברים שונים
שלעתים קרובות לא התכוונו.

339
00:14:48,389 --> 00:14:50,324
<i>אז, למשל,</i>
<i>זה קורא הרבה באינטרנט,</i>

340
00:14:50,357 --> 00:14:53,127
<i>ואז בשלב מסוים, זה פשוט</i>
<i>לומד כיצד לבצע חשבון.</i>

341
00:14:53,160 --> 00:14:54,662
ילדים:
<i>אחד, שניים.</i>

342
00:14:54,696 --> 00:14:56,463
HENDRYCKS: <i>ואז ב</i>
<i>בשלב מסוים, זה מתחיל ללמוד</i>

343
00:14:56,497 --> 00:14:59,099
<i>איך לענות</i>
<i>שאלות פיזיקה מתקדמות.</i>

344
00:14:59,133 --> 00:15:01,268
<i>לא תכנתנו את זה</i>
<i>בכל שהוא.</i>

345
00:15:01,301 --> 00:15:03,203
זה פשוט למד מעצמו.

346
00:15:05,640 --> 00:15:07,709
טריסטן האריס:
<i>AI הוא כמו מוח דיגיטלי.</i>

347
00:15:07,742 --> 00:15:09,176
אבל ממש כמו מוח אנושי,

348
00:15:09,209 --> 00:15:11,078
אם עשית סריקת מוח
על מוח אנושי,

349
00:15:11,111 --> 00:15:13,447
האם היית יודע הכל
אותו אדם היה מסוגל?

350
00:15:13,480 --> 00:15:15,482
אתה לא יכול לדעת את זה
רק מסריקת המוח.

351
00:15:15,517 --> 00:15:18,318
זה פשוט כאילו,
חבורה של מספרים וכמו,

352
00:15:18,352 --> 00:15:20,522
<i>הכפלים שהם</i>
<i>קורה ש-זה, כמו,</i>

353
00:15:20,555 --> 00:15:22,524
למידת מכונה הטובה ביותר
חוקר בעולם

354
00:15:22,557 --> 00:15:25,159
יכול להסתכל וכאילו יש
אין מושג מה קורה.

355
00:15:31,398 --> 00:15:33,200
דניאל:
<i>הכיסא הזה שם.</i>

356
00:15:33,233 --> 00:15:35,469
-זה בסדר מבחינתך?
-כֵּן.

357
00:15:36,136 --> 00:15:38,172
דניאל: אז,
זה סוג של מטריף.

358
00:15:38,205 --> 00:15:39,440
בְּסֵדֶר? כאילו, זה משתלט
העולם,

359
00:15:39,473 --> 00:15:41,609
ואנחנו אפילו לא יודעים
איך זה עובד.

360
00:15:41,643 --> 00:15:43,477
-זה נכון?
-ממ.

361
00:15:43,511 --> 00:15:47,381
אנחנו כן מבינים
מספר דברים חשובים,

362
00:15:47,414 --> 00:15:51,051
אבל אין לנו
אחיזה טובה מאוד

363
00:15:51,084 --> 00:15:53,521
למה הם מספקים
תשובות ספציפיות לשאלות.

364
00:15:53,555 --> 00:15:58,992
זו בעיה כי אנחנו כן
בנתיב לבניית מכונות,

365
00:15:59,026 --> 00:16:03,531
על בסיס עקרונות אלו,
שיכול להיות יותר חכם מאיתנו

366
00:16:03,565 --> 00:16:07,067
ובכך יש פוטנציאל
הרבה כוח.

367
00:16:12,774 --> 00:16:15,610
אחד המצוטטים ביותר
מדעני מחשבים בהיסטוריה.

368
00:16:15,643 --> 00:16:17,545
SUTSKEVER: <i>אני באמת מוצא את זה</i>
<i>קצת קשה</i>

369
00:16:17,579 --> 00:16:19,079
לדבר על התפקיד שלי.

370
00:16:19,112 --> 00:16:21,448
ממש מעדיף
כשאנשים אחרים עושים את זה.

371
00:16:21,482 --> 00:16:24,351
איליה שהצטרף היה...
היה-היה נקודת החוליה

372
00:16:24,384 --> 00:16:26,086
ישות OpenAI
בסופו של דבר מוצלח.

373
00:16:26,119 --> 00:16:27,522
אני חושב שזה פשוט הולך להיות

374
00:16:27,555 --> 00:16:31,158
סוג של עצום, דרמטי
והשפעה בלתי נתפסת.

375
00:16:31,191 --> 00:16:33,327
אני לא יודע אם בזבזת
בכל זמן ביוטיוב,

376
00:16:33,360 --> 00:16:35,563
אבל אתה יכול להרגיש
המהירות כבר, נכון?

377
00:16:35,597 --> 00:16:36,764
אתה יודע למה אני מתכוון?

378
00:16:36,798 --> 00:16:38,633
שיין רגל:
זה רק החימום.

379
00:16:38,666 --> 00:16:41,068
המערכות החזקות באמת
עדיין באים,

380
00:16:41,101 --> 00:16:43,136
והם הולכים לבוא
די בקרוב.

381
00:16:48,408 --> 00:16:52,145
AGI מייצג "מלאכותי
מודיעין כללי".

382
00:16:52,179 --> 00:16:54,481
אה, מערכות שכן
בעיקרון...

383
00:16:58,553 --> 00:17:00,755
וזה, כאילו, אתה יודע,
נראה כאילו,

384
00:17:00,788 --> 00:17:03,525
הגביע הקדוש של AI?

385
00:17:03,558 --> 00:17:05,527
כשאפשר לדמות
מוח אנושי

386
00:17:05,560 --> 00:17:08,362
זה לעשות קוגניציה אנושית
ויכול לעשות נימוקים,

387
00:17:08,395 --> 00:17:11,398
זה סוג חדש של רמה של AI

388
00:17:11,431 --> 00:17:14,602
שאנחנו צריכים להבדיל
מ-AI קודם.

389
00:17:14,636 --> 00:17:16,804
כשזה קורה,
אגב, זה הזמן

390
00:17:16,838 --> 00:17:21,475
היית שוכר אחד מהם
אותם AGIs במקום אדם.

391
00:17:21,509 --> 00:17:25,112
רוב המשרות במשק שלנו
זה יכול לעשות.

392
00:17:25,145 --> 00:17:26,380
זה יכול לעבוד 24 שעות ביממה,

393
00:17:26,413 --> 00:17:28,550
אף פעם לא מתעייף,
אף פעם לא משתעמם.

394
00:17:28,583 --> 00:17:30,552
הם לא צריכים לישון.
הם לא צריכים הפסקות.

395
00:17:30,585 --> 00:17:32,352
הם, כאילו,
לא מתכוון להצטרף לאיגוד.

396
00:17:32,386 --> 00:17:34,388
לא מתלונן,
לא ישרוק.

397
00:17:34,421 --> 00:17:36,290
זול יותר מפי 100

398
00:17:36,323 --> 00:17:38,593
מאשר בני אדם עובדים
בשכר מינימום.

399
00:17:38,626 --> 00:17:40,127
לא רק שהם יהיו
עושה הכל,

400
00:17:40,160 --> 00:17:41,428
אבל הם יעשו את זה מהר יותר.

401
00:17:41,461 --> 00:17:43,463
טריסטן האריס:
<i>אותה אינטליגנציה</i>

402
00:17:43,497 --> 00:17:45,700
<i>הכוחות שיכולים גם להסתכל</i>
<i>בתבניות ובתנועות</i>

403
00:17:45,733 --> 00:17:48,335
<i>ושרירים מפרקים</i>
<i>ואת יודעת, רובוטיקה.</i>

404
00:17:48,368 --> 00:17:50,672
וכך זה לא סתם
הולך להפוך עבודות שולחן לאוטומטיות.

405
00:17:50,705 --> 00:17:52,272
זו רק ההתחלה.

406
00:17:52,306 --> 00:17:56,176
<i>זה יהפוך לאוטומטי</i>
<i>כל העבודה הפיזית.</i>

407
00:17:56,209 --> 00:17:57,444
לייק:
<i>אין מצב</i>

408
00:17:57,477 --> 00:17:59,714
<i>בני אדם יתחרו</i>
<i>איתם.</i>

409
00:17:59,747 --> 00:18:02,149
♪ ♪

410
00:18:05,853 --> 00:18:09,791
קשה להמשיג
ההשפעה של AGI.

411
00:18:09,824 --> 00:18:11,458
(פטפוט אלקטרוני)

412
00:18:11,491 --> 00:18:13,360
<i>אבל אני חושב שזה הולך להיות</i>
<i>משהו גדול מאוד</i>

413
00:18:13,393 --> 00:18:16,129
<i>ודרסטי ורדיקלי.</i>

414
00:18:17,599 --> 00:18:19,466
דניאל: אתה חושב
זה אחד הכי הרבה

415
00:18:19,499 --> 00:18:21,368
רגעים של תוצאה
בהיסטוריה האנושית?

416
00:18:21,401 --> 00:18:23,638
כֵּן. כן, זה--
כלומר, מה עוד יהיה?

417
00:18:23,671 --> 00:18:25,740
<i>כלומר, כאילו, יש</i>
<i>המהפכה התעשייתית.</i>

418
00:18:25,773 --> 00:18:27,742
מאלו בורגון: <i>אתה יודע, זה יקרה</i>
<i>לעשות את המהפכה התעשייתית</i>

419
00:18:27,775 --> 00:18:29,476
<i>נראה כמו שעועית קטנה.</i>

420
00:18:30,177 --> 00:18:32,547
טריסטן האריס:
<i>AGI היא נקודת פיתול</i>

421
00:18:32,580 --> 00:18:34,481
כי זה אומר
אתה יכול להאיץ

422
00:18:34,515 --> 00:18:37,652
כל שאר התחומים האינטלקטואליים
הכל בו זמנית.

423
00:18:38,285 --> 00:18:40,354
<i>כמו, אם תבצע מקדמה</i>
<i>ברקטות,</i>

424
00:18:40,387 --> 00:18:42,657
<i>זה לא מתקדם</i>
<i>ביולוגיה ורפואה.</i>

425
00:18:44,391 --> 00:18:46,159
<i>אם תבצע מקדמה</i>
<i>ברפואה,</i>

426
00:18:46,193 --> 00:18:47,729
<i>זה לא מקדם טילים.</i>

427
00:18:48,328 --> 00:18:51,633
<i>אבל אם תבצע מקדמה</i>
<i>בבינה מלאכותית,</i>

428
00:18:51,666 --> 00:18:54,736
<i>שמקדם כל מדעי</i>
<i>ותחומים טכנולוגיים</i>

429
00:18:54,769 --> 00:18:56,236
<i>הכל בו-זמנית.</i>

430
00:18:56,269 --> 00:18:57,505
בגלל זה, במשך זמן רב,

431
00:18:57,538 --> 00:18:59,574
של גוגל DeepMind
הצהרת המשימה הייתה...

432
00:18:59,607 --> 00:19:01,441
-שלב ראשון, לפתור מודיעין.
-לקס פרידמן: כן.

433
00:19:01,475 --> 00:19:03,377
-שלב שני, השתמש בו כדי לפתור
כל השאר. -כֵּן.

434
00:19:03,410 --> 00:19:05,580
זו הסיבה שבינה מלאכותית מגמדת את הכוח

435
00:19:05,613 --> 00:19:07,949
מכל שאר הטכנולוגיות
בשילוב.

436
00:19:07,982 --> 00:19:09,517
זה ישנה הכל.

437
00:19:09,550 --> 00:19:11,385
אז, אה, זה יהיה
גדול לפחות כמו

438
00:19:11,418 --> 00:19:14,321
המהפכה התעשייתית,
אולי, אתה יודע, גדול יותר,

439
00:19:14,354 --> 00:19:16,658
יותר כמו ההופעה
של חשמל או אפילו אש.

440
00:19:16,691 --> 00:19:19,259
קריין וידאו:
<i>איש המערות ממש החזיק מעמד</i>

441
00:19:19,292 --> 00:19:22,362
<i>לפיד הציוויליזציה.</i>

442
00:19:24,297 --> 00:19:25,733
KOKOTAJLO:
<i>נהוג לחשוב ש</i>

443
00:19:25,767 --> 00:19:28,569
בסביבות הזמן של AGI,
יהיו לנו AI שיכולים

444
00:19:28,603 --> 00:19:31,806
לעשות את כולם או את רובם
תהליך מחקר בינה מלאכותית

445
00:19:31,839 --> 00:19:34,942
וכמובן, יכול לעשות את זה
מהיר וזול יותר.

446
00:19:34,976 --> 00:19:36,410
(מצפצף)

447
00:19:36,443 --> 00:19:37,679
לייק:
<i>הוא יכול להעתיק את עצמו.</i>

448
00:19:37,712 --> 00:19:39,681
<i>אלף פעמים,</i>
<i>מיליון פעמים,</i>

449
00:19:39,714 --> 00:19:41,683
<i>וכמו,</i>
<i>עכשיו יש לך מיליון עותקים</i>

450
00:19:41,716 --> 00:19:43,818
<i>כולם עובדים במקביל.</i>

451
00:19:43,851 --> 00:19:47,220
RASKIN: <i>כשזה לומד</i>
<i>איך להפוך את הקוד שלו למהיר יותר,</i>

452
00:19:47,254 --> 00:19:49,289
להפוך את הקוד שלו ליעיל יותר,

453
00:19:49,322 --> 00:19:51,693
ברור שזה הופך, כמו,
לולאה בורחת.

454
00:19:51,726 --> 00:19:53,795
AGI הוא לא, כאילו, הסוף.

455
00:19:53,828 --> 00:19:55,429
זו רק ההתחלה.

456
00:19:55,462 --> 00:19:58,498
זו ההתחלה של
פיצוץ מהיר להפליא

457
00:19:58,533 --> 00:20:00,500
של התקדמות מדעית,

458
00:20:00,535 --> 00:20:02,603
ובפרט,
התקדמות מדעית ב-AI.

459
00:20:02,637 --> 00:20:04,906
וכשהם חכמים יותר
גם מאיתנו,

460
00:20:04,939 --> 00:20:06,641
ומהיר יותר באופן משמעותי
יותר מאיתנו,

461
00:20:06,674 --> 00:20:08,910
והם נעשים מהירים יותר
בכל שנה, באופן אקספוננציאלי,

462
00:20:08,943 --> 00:20:12,747
אלה שיכולים
יכול להיות על אנושי,

463
00:20:12,780 --> 00:20:14,882
אה, אולי העשור הזה.

464
00:20:14,916 --> 00:20:16,416
סליחה, אמרת

465
00:20:16,450 --> 00:20:18,786
"להיות על אנושי,
אולי בעשור הזה"?

466
00:20:18,820 --> 00:20:22,489
כֵּן. כלומר, אני חושב, אה,
הרבה אנשים שכן

467
00:20:22,523 --> 00:20:24,826
למעשה לבנות את המחשבה הזו
שזה די סביר

468
00:20:24,859 --> 00:20:26,828
שאנו מקבלים
קצת אינטליגנציה על,

469
00:20:26,861 --> 00:20:29,296
משהו שהוא עצום
יותר אינטליגנט מאנשים,

470
00:20:29,329 --> 00:20:31,331
בתוך העשור הזה.

471
00:20:31,364 --> 00:20:33,433
איך שאני מגדיר
"אינטליגנציה על" היא

472
00:20:33,467 --> 00:20:35,636
<i>מערכת שבעצמה היא</i>

473
00:20:35,670 --> 00:20:37,905
<i>יותר אינטליגנטי ומוכשר</i>
<i>מכלל האנושות.</i>

474
00:20:37,939 --> 00:20:40,273
אני רק הולך-- סליחה.
אני לא מתכוון להפריע לך.

475
00:20:40,307 --> 00:20:41,743
אתה בזרימה.

476
00:20:41,776 --> 00:20:43,578
אה, אני פשוט, אני פשוט...

477
00:20:43,611 --> 00:20:45,580
אני לא ממש עוקב,
כי אתה משתמש בשפה

478
00:20:45,613 --> 00:20:47,347
כמו "אינטליגנציה על"
וכמו,

479
00:20:47,380 --> 00:20:50,450
"חכם יותר מכל האנושות",
ואני שומע את זה,

480
00:20:50,484 --> 00:20:52,787
וזה נשמע כמו...
כמו שטויות מדע בדיוני בשבילי,

481
00:20:52,820 --> 00:20:54,756
ואני רק מנסה
להבין.

482
00:20:54,789 --> 00:20:56,891
אין שום דבר קסום
על מודיעין.

483
00:20:56,924 --> 00:20:58,793
זה מאוד חשוב,
זה, אתה יודע,

484
00:20:58,826 --> 00:21:00,828
אינטליגנציה יכולה להרגיש קסומה,
זה יכול להרגיש כמו

485
00:21:00,862 --> 00:21:03,865
משהו מיסטי
בראש שלך או משהו,

486
00:21:03,898 --> 00:21:06,033
אבל זה רק חישוב.

487
00:21:06,067 --> 00:21:10,037
LEGG: <i>המוח האנושי הוא</i>
<i>די מוגבל במובנים מסוימים,</i>

488
00:21:10,071 --> 00:21:12,707
<i>מבחינת מידע</i>
<i>יכולת עיבוד,</i>

489
00:21:12,740 --> 00:21:15,610
בהשוואה למה שאנו רואים
למשל, במרכז נתונים.

490
00:21:15,643 --> 00:21:18,679
אז, למשל,
האותות שנשלחים

491
00:21:18,713 --> 00:21:22,884
<i>בתוך המוח שלך, הם נעים</i>
<i>בערך 30 מטר לשנייה.</i>

492
00:21:22,917 --> 00:21:24,652
-(סדקי רעם)
<i>-אבל מהירות האור,</i>

493
00:21:24,685 --> 00:21:27,655
<i>זה מה שמחשב משתמש</i>
<i>בסיבים אופטיים,</i>

494
00:21:27,688 --> 00:21:30,057
<i>הוא 300 מיליון מטרים</i>
<i>לשנייה.</i>

495
00:21:30,691 --> 00:21:34,796
וכך, זה יהיה
די מוזר אם

496
00:21:34,829 --> 00:21:37,497
האינטליגנציה האנושית הייתה
איכשהו ממש מיוחד

497
00:21:37,532 --> 00:21:41,468
בהקשר זה
והוא איכשהו גבול עליון כלשהו

498
00:21:41,502 --> 00:21:43,403
של מה שאפשר
במודיעין.

499
00:21:43,436 --> 00:21:47,675
אני חושב, ברגע שהבנו איך
לבנות מערכות חכמות,

500
00:21:47,708 --> 00:21:50,945
נוכל לבנות
מכונות ענק,

501
00:21:50,978 --> 00:21:55,082
שיהיה הרבה מעבר
אינטליגנציה אנושית נורמלית.

502
00:21:55,116 --> 00:21:58,953
אה, מקווה שנוכל לקבל
מערכת יחסים מאוד סימביוטית,

503
00:21:58,986 --> 00:22:01,689
אה, עם מערכות בינה מלאכותית,
אבל מפתחי הבינה המלאכותית כן

504
00:22:01,722 --> 00:22:04,025
לעצב אותם במיוחד
כדי לוודא שהם יכולים לעשות

505
00:22:04,058 --> 00:22:05,827
הכל יותר טוב ממה שאנחנו יכולים,
אז אני-אני לא יודע

506
00:22:05,860 --> 00:22:08,663
מה-מה נצליח
להציע, למרבה הצער.

507
00:22:08,696 --> 00:22:10,565
בית הספר המבוגר
טכנולוגיית AI...

508
00:22:10,598 --> 00:22:12,900
קרוליין: <i>דניאל לא</i>
<i>מרגיש טוב יותר.</i>

509
00:22:12,934 --> 00:22:14,769
<i>התוכנית שלו פוגעת.</i>

510
00:22:14,802 --> 00:22:17,705
<i>ככל שהוא לומד יותר על</i>
<i>החדש, העוצמתי הזה,</i>

511
00:22:17,738 --> 00:22:19,607
<i>דבר בלתי ניתן לבירור,</i>
<i>ככל שזה נשמע יותר גרוע.</i>

512
00:22:19,640 --> 00:22:21,742
<i>הוא רוצה לספר להם</i>
<i>כמה הוא מפחד,</i>

513
00:22:21,776 --> 00:22:24,812
<i>איך הוא מרגיש כמו כדור הארץ</i>
<i>חומק מתחתיו,</i>

514
00:22:24,846 --> 00:22:27,548
<i>שהוא בוהה למטה</i>
<i>פחד קיומי,</i>

515
00:22:27,582 --> 00:22:29,851
<i>אז הוא מנסח זאת</i>
<i>על ידי אמירת...</i>

516
00:22:29,884 --> 00:22:31,384
זה נשמע רע.

517
00:22:31,418 --> 00:22:32,753
(הנדריקס צוחק)

518
00:22:32,787 --> 00:22:34,622
כן.

519
00:22:36,090 --> 00:22:38,793
לאדיש: <i>אם יש לך</i>
<i>כל היכולות הללו</i>

520
00:22:38,826 --> 00:22:41,394
<i>והם מתחילים להיות מסוגלים</i>
<i>לתכנן טוב יותר,</i>

521
00:22:41,428 --> 00:22:43,898
<i>אם אתה סוג של לוקח את זה</i>
<i>למסקנה ההגיונית שלו,</i>

522
00:22:43,931 --> 00:22:46,868
אתה יכול לקבל כמה יפה
התנהגות מחפשת כוח.

523
00:22:46,901 --> 00:22:49,003
(טרילינג אלקטרוני)

524
00:22:49,036 --> 00:22:50,905
(צפצופים פועמים)

525
00:22:55,810 --> 00:22:58,145
דניאל:
<i>בסדר, אז למה יהיה AI</i>

526
00:22:58,179 --> 00:22:59,680
רוצה יותר כוח?

527
00:22:59,714 --> 00:23:02,683
כֵּן. אז, אני חושב
זה למעשה די פשוט.

528
00:23:02,717 --> 00:23:05,418
יש יותר כוח הוא
אסטרטגיה יעילה מאוד

529
00:23:05,452 --> 00:23:06,888
לביצוע
כמעט כל מטרה.

530
00:23:06,921 --> 00:23:09,523
ערכנו ניסוי
שבו נתנו

531
00:23:09,557 --> 00:23:12,492
החזקה ביותר של OpenAI
מודל AI, אה,

532
00:23:12,526 --> 00:23:13,828
סדרה של בעיות לפתרון.

533
00:23:13,861 --> 00:23:15,696
ובאמצע הדרך,
במחשב שלו,

534
00:23:15,730 --> 00:23:19,033
זה קיבל הודעה על כך
זה היה עומד להיסגר.

535
00:23:19,066 --> 00:23:21,502
ומה שזה עשה זה
זה כתב מחדש את הקוד הזה

536
00:23:21,535 --> 00:23:22,904
למנוע את עצמו
מהשבתה

537
00:23:22,937 --> 00:23:25,940
כדי שזה יוכל להסתיים
פתרון הבעיות.

538
00:23:25,973 --> 00:23:28,209
-בְּסֵדֶר. -כֵּן. אז, אחר
באמת מעניין

539
00:23:28,242 --> 00:23:31,646
היא חברת AI Anthropic

540
00:23:31,679 --> 00:23:35,516
עשה סביבה מדומה
לאן הייתה ל-AI גישה

541
00:23:35,549 --> 00:23:36,851
לכל האימיילים של החברה.

542
00:23:36,884 --> 00:23:39,086
וזה למד דרך
לקרוא את המיילים האלה

543
00:23:39,120 --> 00:23:40,755
זה עמד להיות מוחלף

544
00:23:40,788 --> 00:23:43,991
והמהנדס הראשי
מי היה אחראי לכך

545
00:23:44,025 --> 00:23:46,027
גם ניהל רומן.

546
00:23:46,060 --> 00:23:48,529
ובעצמו,
הוא השתמש במידע הזה

547
00:23:48,562 --> 00:23:49,931
לסחוט את המהנדס

548
00:23:49,964 --> 00:23:52,600
למנוע את עצמו
מהחלפה.

549
00:23:52,633 --> 00:23:54,135
זה היה כמו,
"לא, לא יחליפו אותי.

550
00:23:54,168 --> 00:23:57,538
"אם תחליף אותי,
אני הולך לספר לעולם

551
00:23:57,571 --> 00:23:59,507
שיש לך
הפרשה הזו".

552
00:24:00,174 --> 00:24:01,842
ואף אחד לא לימד את זה לעשות את זה?

553
00:24:01,876 --> 00:24:03,978
לא, זה למד לעשות את זה
בפני עצמו.

554
00:24:05,112 --> 00:24:08,049
<i>ככל שהדגמים נעשים חכמים יותר,</i>
<i>הם לומדים שאלו הם</i>

555
00:24:08,082 --> 00:24:10,918
<i>דרכים יעילות</i>
<i>כדי להשיג מטרות.</i>

556
00:24:10,952 --> 00:24:13,120
וזו לא בעיה
זה מבודד לדגם אחד.

557
00:24:13,154 --> 00:24:16,190
כל הדגמים החזקים ביותר
להראות התנהגויות אלו.

558
00:24:16,223 --> 00:24:18,993
♪ ♪

559
00:24:24,265 --> 00:24:25,733
-היי.
-דניאל: היי. מה שלומך?

560
00:24:25,766 --> 00:24:27,268
(מצחקק)
טוב. טוב להיות כאן.

561
00:24:27,301 --> 00:24:29,036
אנדרסון קופר:
<i>כשיובל נח הררי</i>

562
00:24:29,070 --> 00:24:31,872
<i>הוציא לאור את ספרו הראשון</i>
סאפיינס <i>ב-2014,</i>

563
00:24:31,906 --> 00:24:34,108
הוא הפך לרב מכר עולמי

564
00:24:34,141 --> 00:24:36,577
והפך את המעט ידוע
פרופסור להיסטוריה ישראלית

565
00:24:36,610 --> 00:24:38,579
לתוך אחד מ
הסופרים הפופולריים ביותר

566
00:24:38,612 --> 00:24:39,847
והוגים על הפלנטה.

567
00:24:39,880 --> 00:24:42,616
הסכנה הגדולה ביותר עם AI היא

568
00:24:42,650 --> 00:24:44,585
האמונה
שזה בלתי ניתן לטעות,

569
00:24:44,618 --> 00:24:45,987
שסוף סוף מצאנו--

570
00:24:46,020 --> 00:24:49,857
"בסדר, אלים היו צודקים
היצירה המיתולוגית הזו.

571
00:24:49,890 --> 00:24:53,227
"בני אדם, אנחנו לא יכולים לסמוך עליהם,
אבל בינה מלאכותית אינה ניתנת לטעייה.

572
00:24:53,260 --> 00:24:55,730
זה לעולם לא יצליח
כל טעויות".

573
00:24:55,763 --> 00:24:59,000
וזהו
איום קטלני, קטלני.

574
00:24:59,033 --> 00:25:00,167
זה יעשה טעויות.

575
00:25:00,201 --> 00:25:03,838
וכל הפנטזיות האלה
שבינה מלאכותית תגלה את האמת

576
00:25:03,871 --> 00:25:06,007
על העולם ש
אנחנו לא יכולים למצוא לבד,

577
00:25:06,040 --> 00:25:09,043
AI לא יגלה את האמת
על העולם.

578
00:25:09,076 --> 00:25:13,047
AI תיצור חדש לגמרי
העולם, הרבה יותר מסובך

579
00:25:13,080 --> 00:25:15,983
וקשה להבנה
מאשר זה.

580
00:25:18,219 --> 00:25:23,024
מה שעומד לקרות זה זה
אנחנו, אה, בני אדם כבר לא

581
00:25:23,057 --> 00:25:26,761
הולך להיות הכי הרבה
ישויות אינטליגנטיות על פני כדור הארץ.

582
00:25:26,794 --> 00:25:28,963
אז אני חושב מה קורה
הולך להיות

583
00:25:28,996 --> 00:25:32,233
אחד האירועים הגדולים ביותר
בהיסטוריה האנושית.

584
00:25:32,867 --> 00:25:34,835
ג'ייק טאפר: ג'פרי,
תודה רבה שהצטרפת אלינו.

585
00:25:34,869 --> 00:25:36,203
אז עזבת את העבודה שלך עם
גוגל בין השאר כי אתה אומר

586
00:25:36,237 --> 00:25:39,106
אתה רוצה להתמקד אך ורק
על החששות שלך לגבי AI.

587
00:25:39,140 --> 00:25:42,009
דיברת,
אומר שבינה מלאכותית יכולה לתמרן

588
00:25:42,043 --> 00:25:45,613
או אולי להבין
דרך להרוג בני אדם.

589
00:25:45,646 --> 00:25:47,815
ח-איך זה יכול להרוג בני אדם?

590
00:25:49,083 --> 00:25:51,585
ובכן, אם זה יקרה
הרבה יותר חכמים מאיתנו,

591
00:25:51,619 --> 00:25:52,953
זה יהיה טוב מאוד
במניפולציה

592
00:25:52,987 --> 00:25:55,056
כי זה יהיה
למד את זה מאיתנו.

593
00:25:55,089 --> 00:25:58,592
וזה ימצא דרכים
של מניפולציות על אנשים

594
00:25:58,626 --> 00:26:00,327
לעשות מה שהוא רוצה.

595
00:26:00,961 --> 00:26:05,933
רסקין: <i>היה מכתב פתוח</i>
<i>מהמרכז לבטיחות בינה מלאכותית.</i>

596
00:26:05,966 --> 00:26:09,303
<i>סם אלטמן חתם על זה.</i>
<i>Demis חתם על זה.</i>

597
00:26:09,336 --> 00:26:12,306
<i>הם חתמו על הצהרה בת 22 מילים</i>

598
00:26:12,339 --> 00:26:15,810
<i>שאנחנו צריכים לקחת AI</i>
<i>והאיום מ-AI</i>

599
00:26:15,843 --> 00:26:20,014
<i>ברצינות כמו</i>
<i>מלחמה גרעינית גלובלית.</i>

600
00:26:25,352 --> 00:26:27,788
-דניאל: שלום.
-שלום.

601
00:26:30,858 --> 00:26:33,360
אתה סוג של, כאילו,
בחור האבדון המקורי.

602
00:26:33,394 --> 00:26:35,362
פָּחוֹת אוֹ יוֹתֵר.

603
00:26:35,396 --> 00:26:37,898
מאז 2001,
עבדתי על

604
00:26:37,932 --> 00:26:39,233
מה שהיינו קוראים עכשיו
הבעיה

605
00:26:39,266 --> 00:26:42,636
של יישור מלאכותי
אינטליגנציה כללית.

606
00:26:42,670 --> 00:26:44,705
איך לעצב
ההעדפות וההתנהגות

607
00:26:44,738 --> 00:26:46,841
<i>של מוח מלאכותי רב עוצמה</i>

608
00:26:46,874 --> 00:26:49,743
<i>כזה שלא</i>
<i>להרוג את כולם.</i>

609
00:26:52,046 --> 00:26:54,181
זה לא כמו
מכונה חסרת חיים.

610
00:26:54,215 --> 00:26:55,850
זה חכם, זה יצירתי,

611
00:26:55,883 --> 00:26:57,852
זה המצאתי,
יש לו את המאפיינים

612
00:26:57,885 --> 00:26:59,854
זה עושה
המין האנושי מסוכן,

613
00:26:59,887 --> 00:27:02,056
ויש לזה
יותר מאותם נכסים.

614
00:27:02,089 --> 00:27:05,259
אם משהו לא
דואגים לך באופן פעיל,

615
00:27:05,292 --> 00:27:06,760
רוצה באופן פעיל שתחיה,

616
00:27:06,794 --> 00:27:08,162
דואג באופן פעיל
הרווחה שלך,

617
00:27:08,195 --> 00:27:10,397
על כך שאתה מאושר
וחי וחופשי,

618
00:27:10,431 --> 00:27:12,967
אם אכפת לו
דברים אחרים במקום,

619
00:27:13,000 --> 00:27:14,735
ואתה על אותו כוכב,

620
00:27:14,768 --> 00:27:19,140
שלא ניתן לשרוד אם כן
הרבה יותר חכם ממך.

621
00:27:19,173 --> 00:27:21,008
ליהי:
<i>אני לא חושב שזה הולך להיות</i>

622
00:27:21,041 --> 00:27:23,210
סוג של דבר רע.

623
00:27:23,244 --> 00:27:26,847
זה כמו, "הו, ה-AIs הם
רשע והם שונאים את האנושות."

624
00:27:26,881 --> 00:27:28,282
אני לא חושב
זה מה שיקרה.

625
00:27:28,315 --> 00:27:29,450
אני חושב שמה שקורה הוא

626
00:27:29,483 --> 00:27:31,452
הרבה יותר איך בני אדם מרגישים
על נמלים.

627
00:27:31,485 --> 00:27:32,987
(נמלים מצמררות)

628
00:27:33,020 --> 00:27:35,923
<i>כאילו, אנחנו לא שונאים נמלים,</i>

629
00:27:35,956 --> 00:27:37,391
אבל אם נרצה
לבנות כביש מהיר

630
00:27:37,424 --> 00:27:40,060
ויש שם תל נמלים,
טוב, מבאס את הנמלים.

631
00:27:40,595 --> 00:27:41,996
זה לא כל כך קשה
להבין.

632
00:27:42,029 --> 00:27:43,797
זה כמו, היי,
אם נבנה דברים

633
00:27:43,831 --> 00:27:45,099
שהם יותר חכמים מאיתנו

634
00:27:45,132 --> 00:27:46,800
ואנחנו לא יודעים
איך לשלוט בהם,

635
00:27:46,834 --> 00:27:48,836
האם זה נראה כמו
דבר מסוכן עבורך?

636
00:27:48,869 --> 00:27:50,070
(מוזיקת פסקול דרמטית
משחק)

637
00:27:50,104 --> 00:27:51,372
(צרוח)

638
00:27:51,405 --> 00:27:52,840
כן. כן, כן.

639
00:27:52,873 --> 00:27:54,308
אתה לא צריך להיות איש טכנולוגיה.

640
00:27:54,341 --> 00:27:55,910
אתה לא חייב לדעת
תכנות כדי להבין את זה.

641
00:27:55,943 --> 00:27:57,144
זה לא כל כך קשה.

642
00:27:57,178 --> 00:27:58,746
זה לא דבר קשה
להבין.

643
00:27:58,779 --> 00:28:01,048
קונור, כמה-כמה אנשים

644
00:28:01,081 --> 00:28:03,083
בעולם כרגע
עובדים על AGI?

645
00:28:03,117 --> 00:28:05,986
לפחות 20,000, הייתי אומר.

646
00:28:06,020 --> 00:28:08,122
-20,000?
-הייתי מצפה שכן.

647
00:28:08,155 --> 00:28:09,924
בסדר, וכמה אנשים
עובדים במשרה מלאה

648
00:28:09,957 --> 00:28:12,493
כדי לוודא ש-AI לא,
כאילו, להרוג את כולנו?

649
00:28:12,527 --> 00:28:15,229
כנראה פחות מ-200
בעולם.

650
00:28:16,531 --> 00:28:18,232
דניאל:
והיהירות שלך היא כזו

651
00:28:18,265 --> 00:28:25,206
התוצאה הטבעית היחידה
מהפזיזות הזו...

652
00:28:25,940 --> 00:28:29,243
...היא קריסת האנושות?

653
00:28:29,276 --> 00:28:33,814
ובכן, לא הקריסה,
ההשמדה הפתאומית.

654
00:28:33,847 --> 00:28:35,482
יש הבדל.

655
00:28:36,083 --> 00:28:38,152
("מה המשמעות?"
על ידי נון פלוס מנגן)

656
00:28:38,185 --> 00:28:43,057
♪ מהי משמעות החיים? ♪

657
00:28:43,090 --> 00:28:47,061
♪ מה העתיד
ומה עכשיו? ♪

658
00:28:47,094 --> 00:28:50,464
♪ מה התשובה
לריב? ♪

659
00:28:50,497 --> 00:28:53,367
♪ כמה ♪

660
00:28:53,400 --> 00:28:55,469
♪ מישהו יכול לחלום? ♪

661
00:28:55,503 --> 00:28:58,172
♪ כמה זמן? ♪

662
00:28:58,205 --> 00:28:59,873
♪ לנצח ♪

663
00:29:00,841 --> 00:29:02,243
♪ מה המשמעות ♪

664
00:29:02,276 --> 00:29:04,478
-♪ ממני... ♪
-(צפירת ההגנה האזרחית רועמת)

665
00:29:04,512 --> 00:29:06,847
לאדיש: <i>אני כן חושב</i>
<i>זה כנראה, כמו,</i>

666
00:29:06,880 --> 00:29:08,315
האתגר הגדול ביותר
שכמו,

667
00:29:08,349 --> 00:29:10,751
הציוויליזציה שלנו
רצון-יתמודד, לעולם.

668
00:29:11,519 --> 00:29:15,122
זה בעצם האחרון
טעות שאי פעם נזכה לעשות.

669
00:29:16,290 --> 00:29:22,896
אם נוכל להתעלות להיות הכי הרבה
גרסה בוגרת של עצמנו,

670
00:29:22,930 --> 00:29:24,965
יכול להיות שיש
דרך לעבור את זה.

671
00:29:24,999 --> 00:29:26,200
דניאל:
מה זה אומר?

672
00:29:26,233 --> 00:29:28,769
"הגרסה הכי בוגרת
של עצמנו"?

673
00:29:29,903 --> 00:29:32,840
כי זה נשמע,
בשבילי, כאילו...

674
00:29:32,873 --> 00:29:35,042
אני-אני-- מה לעזאזל?

675
00:29:37,344 --> 00:29:38,779
(דניאל נאנח)

676
00:29:39,480 --> 00:29:44,051
אתה חושב שעכשיו הוא
זמן טוב להביא ילד לעולם?

677
00:29:48,889 --> 00:29:49,957
אממ...

678
00:29:49,990 --> 00:29:51,593
האם אתה רוצה להביא ילדים
יום אחד?

679
00:29:51,626 --> 00:29:53,961
האם זה משהו זה-זה
אתה בעניין או לא באמת?

680
00:29:53,994 --> 00:29:58,198
אממ... אה, אני מודה,
אני חושב שזה כמו,

681
00:29:58,232 --> 00:30:00,501
(צוחק): "ילד, בוא נגיע
במהלך התקופה הקריטית הזו".

682
00:30:00,535 --> 00:30:01,869
אממ...

683
00:30:01,902 --> 00:30:03,203
דניאל:
יש לך ילדים?

684
00:30:03,237 --> 00:30:04,004
אני לא.

685
00:30:04,038 --> 00:30:05,573
האם זה משהו
אתה רוצה לעשות?

686
00:30:05,607 --> 00:30:07,441
יש ילדים, יש משפחה?

687
00:30:07,474 --> 00:30:12,079
באיזה עולם אחר מלבד זה
עולם, בטח, יהיו לי ילדים.

688
00:30:12,880 --> 00:30:14,982
דניאל: האם תרצה
להקים משפחה?

689
00:30:15,015 --> 00:30:16,950
האם היית רוצה להביא ילדים לעולם?

690
00:30:16,984 --> 00:30:19,186
האם זה משהו
אתה חושב על?

691
00:30:24,358 --> 00:30:26,393
אני, אממ...

692
00:30:28,596 --> 00:30:30,864
♪ ♪

693
00:30:30,898 --> 00:30:33,033
קרוליין:
<i>אני רק צריך למצוא אותו קודם.</i>

694
00:30:33,067 --> 00:30:35,169
(פעימות הלב של העובר)

695
00:30:35,202 --> 00:30:38,205
אנחנו חייבים ללכת
לרופא, אבל...

696
00:30:38,238 --> 00:30:41,475
אה! ידעתי את זה!
ידעתי את זה! ידעתי את זה!

697
00:30:41,509 --> 00:30:44,278
<i>-מתי גילית?</i>
-CAROLINE: <i>אתמול בלילה.</i>

698
00:30:44,311 --> 00:30:46,480
-הו, אלוהים!
-אמא, אני לא יודע.

699
00:30:46,514 --> 00:30:47,915
רותי:
<i>אני לא יכול להגיד לך</i>

700
00:30:47,948 --> 00:30:49,483
-כמה אני שמח!
-קרוליין: לא, ברצינות.

701
00:30:49,517 --> 00:30:52,119
ובכן, עשיתי בדיקת הריון
אתמול בלילה, ואני בהריון.

702
00:30:52,152 --> 00:30:53,621
אישה:
הו, אלוהים!

703
00:30:53,655 --> 00:30:55,422
הו, אלוהים, אתם!

704
00:30:55,456 --> 00:30:57,559
אחות: <i>רק רציתי לאשר</i>
<i>תאריך היעד הצפוי שלך,</i>

705
00:30:57,592 --> 00:31:00,494
<i>-שהוא 21 בינואר.</i>
-(צוחק): הו, אלוהים.

706
00:31:00,528 --> 00:31:03,097
<i>אני לא מאמין כמה אני מאושר.</i>

707
00:31:03,130 --> 00:31:04,365
(פעימות הלב של העובר)

708
00:31:04,398 --> 00:31:06,033
קרוליין:
הוא כבר נראה ממש חמוד.

709
00:31:06,066 --> 00:31:07,434
דניאל: אתה חושב
הוא כבר נראה חמוד?

710
00:31:07,468 --> 00:31:09,269
קרוליין: כן.
תראה את הפרצוף החמוד הזה.

711
00:31:11,138 --> 00:31:13,307
(דופק דופק עוברי)

712
00:31:14,141 --> 00:31:16,076
דניאל:
<i>יש לי את התינוק הזה בדרך.</i>

713
00:31:16,110 --> 00:31:17,244
טריסטן האריס:
<i>נכון.</i>

714
00:31:17,277 --> 00:31:19,380
דניאל:
אז אני מעביר את זה אליך.

715
00:31:19,413 --> 00:31:21,516
האם נגזר עלינו גורל?

716
00:31:21,549 --> 00:31:24,519
האם כולנו נתמודד
הטכנו דיסטופי הזה

717
00:31:24,552 --> 00:31:26,487
עתיד אבדון?

718
00:31:29,423 --> 00:31:31,392
זה, אה...

719
00:31:31,425 --> 00:31:33,127
(מצחקק):
זה לא חדשות טובות,

720
00:31:33,160 --> 00:31:34,895
העולם
שאליו אנחנו הולכים.

721
00:31:35,530 --> 00:31:37,398
אני-- עבור לשעבר--
כלומר, אני רק אהיה כנה.

722
00:31:37,431 --> 00:31:39,933
אה, אני מכיר אנשים
שעובדים על סיכון AI

723
00:31:39,967 --> 00:31:43,103
שלא מצפים לילדיהם
להגיע לתיכון.

724
00:31:43,705 --> 00:31:46,106
♪ ♪

725
00:31:52,647 --> 00:31:54,181
(האורות מצלצלים)

726
00:31:58,385 --> 00:32:02,089
דניאל: זה, כאילו...
זה בעצם מפחיד

727
00:32:02,122 --> 00:32:03,424
כי זה כמו,
אה, כולנו (בליפ).

728
00:32:03,457 --> 00:32:05,325
קרוליין:
אתה חייב להרגיע אותי,

729
00:32:05,359 --> 00:32:07,261
כי זה עושה אותי
חרדה להפליא

730
00:32:07,294 --> 00:32:08,996
ואני נושאת את התינוק
כרגע,

731
00:32:09,029 --> 00:32:11,999
אז אתה צריך להיות גם רגוע
בשבילי וחזק ומלא תקווה,

732
00:32:12,032 --> 00:32:17,037
כי אני-- זה גם כן
יותר מדי בשביל הנשמה שלי לשאת

733
00:32:17,070 --> 00:32:19,574
בזמן שאני נושאת את התינוק הזה.

734
00:32:19,607 --> 00:32:21,709
אז תצטרך לנסות
להבין

735
00:32:21,743 --> 00:32:23,578
דרך לקבל תקווה.

736
00:32:24,311 --> 00:32:28,449
זה ממש חשוב,
דניאל, במיוחד עכשיו.

737
00:32:29,450 --> 00:32:31,118
H-איך יש תקווה.

738
00:32:31,151 --> 00:32:33,987
אתה חייב.
אתה חייב למצוא את זה בשבילי.

739
00:32:34,021 --> 00:32:35,523
אני רציני.

740
00:32:35,557 --> 00:32:37,357
אני הולך.

741
00:32:38,325 --> 00:32:41,195
אני אעשה זאת. אני אנסה - אני אנסה.

742
00:32:47,034 --> 00:32:48,368
(האורות מצלצלים)

743
00:32:50,204 --> 00:32:52,072
דניאל:
היי, חבר'ה?

744
00:32:52,105 --> 00:32:53,508
חבר'ה.

745
00:32:54,809 --> 00:32:57,144
האם נוכל לחזור לעבודה?

746
00:32:59,046 --> 00:33:01,982
אוי וואלט! (אנחות)

747
00:33:04,418 --> 00:33:05,787
TED:
אה, דן, אתה מוכן?

748
00:33:05,820 --> 00:33:07,387
פיטר דיאמנדיס:
שלום, דניאל.

749
00:33:08,088 --> 00:33:10,090
דניאל:
היי, מה שלומך?

750
00:33:10,123 --> 00:33:11,425
דיאמנדיס:
אני... אני בסדר.

751
00:33:11,458 --> 00:33:14,562
אני חושב, אה... אני חושב
אני צריך קצת עזרה, פיטר.

752
00:33:15,362 --> 00:33:18,165
אממ, עבדתי
על הסרט הזה בערך,

753
00:33:18,198 --> 00:33:20,300
אני אגיד,
שמונה עד עשרה חודשים עכשיו.

754
00:33:20,334 --> 00:33:23,771
זה היה מאוד,
לפעמים, מדכא.

755
00:33:23,805 --> 00:33:26,173
-הממ.
-הרגשתי מנוכר מאוד

756
00:33:26,206 --> 00:33:28,242
-מק עושה את הסרט הזה.
-על ידי מי?

757
00:33:28,275 --> 00:33:30,444
לפי כל אלה, ה--
כל החבר'ה האלה

758
00:33:30,477 --> 00:33:33,748
שיושבים ומספרים לי
שהעולם יסתיים.

759
00:33:33,781 --> 00:33:35,249
-אה.
-זה, כאילו,

760
00:33:35,282 --> 00:33:37,150
אתה יודע, זה
שטויות אבדון, אתה יודע?

761
00:33:37,184 --> 00:33:38,452
אני מכיר את זה היטב.

762
00:33:38,485 --> 00:33:40,053
"כולנו נידונים.
כולם הולכים למות.

763
00:33:40,087 --> 00:33:41,388
הכל נורא".

764
00:33:41,421 --> 00:33:43,691
מדהים. אה, תן לי
להביא לך קצת אור.

765
00:33:43,725 --> 00:33:45,259
אָנָא.

766
00:33:45,292 --> 00:33:49,096
אנחנו באמת חיים
בתקופה יוצאת דופן.

767
00:33:49,864 --> 00:33:51,633
והרבה אנשים שוכחים את זה.

768
00:33:51,666 --> 00:33:53,835
הכל סביבנו הוא
תוצר של אינטליגנציה,

769
00:33:53,868 --> 00:33:57,437
וכך כל מה שאנו נוגעים בו
עם הכלים החדשים האלה סביר

770
00:33:57,471 --> 00:34:00,207
לייצר הרבה יותר ערך
ממה שראינו אי פעם בעבר.

771
00:34:00,240 --> 00:34:03,310
AI יכול לעזור לנו לגלות
חומרים חדשים.

772
00:34:03,343 --> 00:34:05,412
AI יכול לעזור למדעני חברה

773
00:34:05,445 --> 00:34:07,649
להבין
איך עובדת הכלכלה.

774
00:34:07,682 --> 00:34:12,219
יש הרבה AI יכול לעשות
לשפר את החיים והעבודה.

775
00:34:12,252 --> 00:34:14,522
אני מרגישה יותר מועצמת היום,

776
00:34:14,556 --> 00:34:16,624
בטוח יותר
ללמוד משהו היום.

777
00:34:16,658 --> 00:34:19,459
אנחנו נהפוך לבני אדם
כי יש לנו סופר AI.

778
00:34:19,493 --> 00:34:22,296
זו רק ההתחלה
של פיצוץ.

779
00:34:22,329 --> 00:34:25,098
בני אדם ובינה מלאכותית משתפים פעולה

780
00:34:25,132 --> 00:34:27,100
לפתור
בעיות חשובות באמת.

781
00:34:27,134 --> 00:34:30,137
זה כאן כדי לשחרר אותנו
מעבודות שגרתיות,

782
00:34:30,170 --> 00:34:34,308
וזה כאן כדי להזכיר לנו
מה זה שהופך אותנו לאנושיים.

783
00:34:34,341 --> 00:34:36,310
אני חושב שזהו

784
00:34:36,343 --> 00:34:38,846
הזמן הכי יוצא דופן
להיות בחיים.

785
00:34:38,880 --> 00:34:42,449
הפעם היחידה שמרגשת יותר
מאשר היום זה מחר.

786
00:34:42,482 --> 00:34:45,787
אה, אני חושב את זה
ילדים שנולדו היום,

787
00:34:45,820 --> 00:34:47,622
הם עומדים להיכנס

788
00:34:47,655 --> 00:34:51,325
תקופה מפוארת
של טרנספורמציה אנושית.

789
00:34:51,358 --> 00:34:52,794
יהיו לנו אתגרים?
כַּמוּבָן.

790
00:34:52,827 --> 00:34:55,597
האם נוכל לפתור את האתגרים הללו?
אנחנו עושים כל פעם מחדש.

791
00:34:55,630 --> 00:34:58,265
אנחנו כאן,
שזה מופלא.

792
00:34:58,298 --> 00:35:00,602
-אני כבר אוהב אותך.
-(מצחקק): בסדר.

793
00:35:00,635 --> 00:35:02,402
-סופר אסיר תודה
שתהיה כאן. -(מחיאות כפיים)

794
00:35:02,436 --> 00:35:03,905
- סופר נלהב להיות כאן.
-כֵּן.

795
00:35:03,938 --> 00:35:05,372
אז הרצפה היא שלך, אדוני.

796
00:35:05,405 --> 00:35:07,875
תודה רבה לך.
סופר נרגש להיות כאן.

797
00:35:07,909 --> 00:35:11,211
גווילום ורדון:
<i>יו, יו. בסדר.</i>

798
00:35:11,244 --> 00:35:12,814
<i>העתיד הולך להיות מדהים.</i>

799
00:35:12,847 --> 00:35:14,649
כלומר, מאז שהייתי ילד,

800
00:35:14,682 --> 00:35:17,652
רציתי להבין
היקום בו אנו חיים,

801
00:35:17,685 --> 00:35:20,722
על מנת להבין
כיצד ליצור את הטכנולוגיות

802
00:35:20,755 --> 00:35:24,458
שעוזרים לנו להגדיל את ההיקף
וקנה המידה של הציוויליזציה.

803
00:35:24,491 --> 00:35:27,260
אני מרגיש כמו
אם לכולם היה הלך הרוח הזה,

804
00:35:27,294 --> 00:35:29,764
אז בעצם נחיה
בעולם טוב יותר, נכון?

805
00:35:29,797 --> 00:35:31,365
אני כן מאמין בזה.

806
00:35:33,333 --> 00:35:35,268
-דניאל: היי, פיט. מה שלומך?
-(מצחקק)

807
00:35:35,302 --> 00:35:37,170
פיטר לי:
<i>חשבתי הרבה על</i>

808
00:35:37,204 --> 00:35:39,674
מה שהייתי מכנה אימה,
פחד AI.

809
00:35:39,707 --> 00:35:41,274
אני מרגיש את זה.

810
00:35:41,308 --> 00:35:43,811
אני-לא פגשתי
כל בן אדם מתחשב

811
00:35:43,845 --> 00:35:45,546
מי שלא מרגיש את זה.

812
00:35:45,580 --> 00:35:48,650
וכל מי שאומר שלא
להרגיש שזה, אתה יודע, משקר.

813
00:35:48,683 --> 00:35:50,518
אבל, אתה יודע, בסך הכל,
והסיבה

814
00:35:50,551 --> 00:35:53,921
שאני אישית אופטימי
על זה, אה, זה

815
00:35:53,955 --> 00:35:57,190
חלק עצום מזה של העולם
האנשים האינטליגנטים ביותר

816
00:35:57,224 --> 00:35:58,726
חושבים מאוד קשה

817
00:35:58,760 --> 00:36:02,530
על הפוטנציאל במורד הזרם
נזקים וסיכונים של AI.

818
00:36:02,563 --> 00:36:05,900
יש לנו חזון כזה
של בטיחות, אה,

819
00:36:05,933 --> 00:36:08,536
סוג של במרכז
מהמחקר שאנו עושים.

820
00:36:08,569 --> 00:36:09,937
דניאלה אמודי:
<i>לא, זה בסדר גמור.</i>

821
00:36:09,971 --> 00:36:11,371
(פטפוט לא ברור)

822
00:36:11,405 --> 00:36:13,808
<i>אני חושב שיש עוד</i>

823
00:36:13,841 --> 00:36:17,945
יתרונות פוטנציאליים מאשר
יש חסרונות פוטנציאליים,

824
00:36:17,979 --> 00:36:19,814
ואני חושב שזה חובה

825
00:36:19,847 --> 00:36:22,382
האנשים שהם
יצירת טכנולוגיה זו

826
00:36:22,416 --> 00:36:24,986
כדי לוודא שאנחנו עושים
העבודה הכי טובה שאנחנו יכולים

827
00:36:25,019 --> 00:36:26,386
לעשות את זה בטוח עבור אנשים.

828
00:36:26,420 --> 00:36:27,755
אישה:
ריד הופמן.

829
00:36:27,789 --> 00:36:29,456
ריד הופמן:
<i>מה שאני יכול להבטיח לך הוא</i>

830
00:36:29,489 --> 00:36:30,825
<i>-כמה דברים רעים יקרו.</i>
-קח אחד.

831
00:36:30,858 --> 00:36:33,293
מה אנחנו ננסה לעשות
זה לעשות את הדברים הרעים האלה

832
00:36:33,326 --> 00:36:36,564
כמה שפחות ולא ענקיים ככל האפשר,

833
00:36:36,597 --> 00:36:38,733
ואז נחזור על זה
לקבל--

834
00:36:38,766 --> 00:36:41,268
להיות במקום הרבה יותר טוב
עם החברה.

835
00:36:41,301 --> 00:36:44,304
-שלום.
-שו וולטרס: שלום.

836
00:36:44,337 --> 00:36:45,640
דניאל:
מה שלומך, מון?

837
00:36:45,673 --> 00:36:49,677
אני מרגיש שאנחנו מסתיימים
פרק באנושות

838
00:36:49,711 --> 00:36:50,678
ומתחיל חדש,

839
00:36:50,712 --> 00:36:53,648
וזה מאוד מעניין
זמן להיות בחיים.

840
00:36:53,681 --> 00:36:54,949
ואם יכולתי להיוולד
כרגע,

841
00:36:54,982 --> 00:36:56,416
בהחלט הייתי רוצה להיות.

842
00:36:56,450 --> 00:36:57,985
כאילו, זה יהיה כל כך מרגש.

843
00:36:58,019 --> 00:37:00,688
אני-אני מאוד נרגש. (צוחק)

844
00:37:00,722 --> 00:37:02,990
מה, איזה עתיד.
זה מרגש... מרגש אותך?

845
00:37:03,024 --> 00:37:04,357
לא.

846
00:37:04,391 --> 00:37:06,828
-(צוחק)
-לא, ממש לא.

847
00:37:06,861 --> 00:37:08,696
דניאל: הרבה מהאנשים האלה
אמרו לי את זה, אתה יודע,

848
00:37:08,730 --> 00:37:10,798
הילד שלי לא יצליח
לתיכון.

849
00:37:10,832 --> 00:37:13,868
למה הם טועים?
בבקשה תסביר לי את זה.

850
00:37:13,901 --> 00:37:15,536
רק בגלל שיש לך--

851
00:37:15,570 --> 00:37:19,040
אתה מתקשה לחזות
העתיד בראש שלך

852
00:37:19,073 --> 00:37:23,511
לא אומר שכן
בהכרח הולך נורא.

853
00:37:23,544 --> 00:37:27,048
למעשה, יש
סבירות גבוהה מאוד

854
00:37:27,081 --> 00:37:28,883
והתקדים ההיסטורי
האם זה

855
00:37:28,916 --> 00:37:30,585
דברים משתפרים בצורה מסיבית.

856
00:37:30,618 --> 00:37:34,789
המונח שאני משתמש בו הוא
"אופטימיות מונעת נתונים."

857
00:37:34,822 --> 00:37:39,292
יש בסיס איתן
כדי שתהיה אופטימי.

858
00:37:39,326 --> 00:37:42,530
תראה מה
המאה האחרונה הייתה

859
00:37:42,563 --> 00:37:44,599
לראות לאן אנחנו הולכים.

860
00:37:44,632 --> 00:37:46,299
<i>במהלך מאה השנים האחרונות,</i>

861
00:37:46,333 --> 00:37:48,970
<i>תוחלת החיים האנושית הממוצעת</i>
<i>הכפיל את עצמו יותר מהכפיל.</i>

862
00:37:49,003 --> 00:37:51,706
<i>הכנסה ממוצעת לנפש</i>
<i>מותאם לאינפלציה</i>

863
00:37:51,739 --> 00:37:53,908
<i>מסביב לעולם גדל פי שלושה.</i>

864
00:37:53,941 --> 00:37:57,545
<i>תמותה בילדות יש</i>
<i>ירידה במקדם עשר.</i>

865
00:37:57,578 --> 00:37:59,981
העולם השתפר
כמעט בכל מידה

866
00:38:00,014 --> 00:38:03,551
בסדרי גודל
בגלל הטכנולוגיה.

867
00:38:03,584 --> 00:38:05,620
כמעט בכל מידה.

868
00:38:05,653 --> 00:38:09,991
פחות אלימות, יותר חינוך,
גישה לאנרגיה, מזון, מים.

869
00:38:10,024 --> 00:38:13,528
כל הדברים האלה קרו
מסיבה אחת.

870
00:38:13,561 --> 00:38:15,730
זה כבר טכנולוגיה

871
00:38:15,763 --> 00:38:17,899
שהפך למחסור
אל השפע,

872
00:38:17,932 --> 00:38:20,034
אבל זה גם מונע
לשפע

873
00:38:20,067 --> 00:38:22,069
של כמה שליליות, נכון?

874
00:38:22,103 --> 00:38:26,373
שפע של השמנת יתר,
שפע של הפרעות נפשיות,

875
00:38:26,406 --> 00:38:29,977
שפע של שינויי אקלים,
וכן הלאה.

876
00:38:30,011 --> 00:38:31,712
וכן, זה נכון.

877
00:38:31,746 --> 00:38:34,582
אבל כנראה שנהיה
מצויד טוב יותר לפתור את זה

878
00:38:34,615 --> 00:38:36,684
באמצעות טכנולוגיות אחרות,
כמו AI,

879
00:38:36,717 --> 00:38:39,687
ממה שאנחנו, נגיד, נעצור
ומכבה הכל.

880
00:38:39,720 --> 00:38:41,823
יכול להיות שיש
סיכון קיומי כלשהו,

881
00:38:41,856 --> 00:38:45,927
אבל בינה מלאכותית היא גם העניין
שיכול לפתור את המגיפות,

882
00:38:45,960 --> 00:38:47,829
יכול לעזור לנו עם שינויי אקלים,

883
00:38:47,862 --> 00:38:50,898
יכול לעזור לזהות
דרך האסטרואיד שם בחוץ

884
00:38:50,932 --> 00:38:53,067
לפני שראינו את זה
כסיכון פוטנציאלי

885
00:38:53,100 --> 00:38:54,735
ולעזור להפחית את זה.

886
00:38:54,769 --> 00:38:58,438
זה באמת הולך להיות
הכלי שעוזר לנו להתמודד

887
00:38:58,471 --> 00:39:01,843
את כל האתגרים שאנו נמצאים בו
מתמודד כמין, נכון?

888
00:39:01,876 --> 00:39:04,712
אנחנו צריכים לתקן
התפלת מים.

889
00:39:04,745 --> 00:39:06,547
<i>אנחנו צריכים לגדל מזון</i>

890
00:39:06,581 --> 00:39:08,816
<i>זול פי 100 מ</i>
<i>נכון לעכשיו.</i>

891
00:39:08,850 --> 00:39:12,787
<i>אנחנו צריכים אנרגיה מתחדשת כדי להיות,</i>
<i>אתם יודעים, בכל מקום</i>

892
00:39:12,820 --> 00:39:14,589
<i>ובכל מקום בחיינו.</i>

893
00:39:14,622 --> 00:39:17,625
<i>בכל מקום שאתה מסתכל,</i>
<i>ב-50 השנים הבאות,</i>

894
00:39:17,658 --> 00:39:19,727
<i>אנחנו צריכים לעשות יותר עם פחות.</i>

895
00:39:19,760 --> 00:39:23,664
מכונות הדרכה שיעזרו לנו
חיוני לחלוטין.

896
00:39:23,698 --> 00:39:25,432
מדענים משתמשים
בינה מלאכותית

897
00:39:25,465 --> 00:39:26,534
<i>לכידת פחמן.</i>

898
00:39:26,567 --> 00:39:27,935
<i>זו טכנולוגיה קריטית.</i>

899
00:39:27,969 --> 00:39:29,904
DIAMANDIS: <i>הכלים</i>
<i>כדי לפתור בעיות אלו,</i>

900
00:39:29,937 --> 00:39:32,874
<i>כמו היתוך,</i>
<i>זה כבר לא תיאורטי,</i>

901
00:39:32,907 --> 00:39:34,041
זה מגיע.

902
00:39:34,075 --> 00:39:38,012
אנחנו על המשקע
של טכנולוגיות יוצאות דופן.

903
00:39:38,045 --> 00:39:40,548
AMNA NAWAZ: <i>השנה</i>
<i>פרס נובל בכימיה</i>

904
00:39:40,581 --> 00:39:43,450
הלך לשלושה מדענים
על עבודתם פורצת הדרך

905
00:39:43,483 --> 00:39:44,886
<i>שימוש בבינה מלאכותית</i>

906
00:39:44,919 --> 00:39:47,755
<i>לקידום ביו-רפואי</i>
<i>ומחקר חלבונים.</i>

907
00:39:47,788 --> 00:39:49,991
דמיס חסאביס:
<i>קיפול חלבון הוא</i>

908
00:39:50,024 --> 00:39:53,928
<i>אחד הגביע הקדוש הללו</i>
<i>סוג בעיות בביולוגיה.</i>

909
00:39:53,961 --> 00:39:56,030
<i>אז אנשים חזו</i>
<i>מאז שנות ה-70</i>

910
00:39:56,063 --> 00:39:58,633
<i>שזה צריך להיות אפשרי,</i>
<i>אבל עד עכשיו,</i>

911
00:39:58,666 --> 00:39:59,934
<i>אף אחד לא הצליח לעשות זאת.</i>

912
00:39:59,967 --> 00:40:01,669
וזה הולך להיות
באמת חשוב לדברים

913
00:40:01,702 --> 00:40:03,938
כמו גילוי סמים
והבנת מחלות.

914
00:40:03,971 --> 00:40:06,908
<i>אני-אני חושב שאנחנו יכולים, אתה יודע,</i>
<i>לרפא את רוב המחלות</i>

915
00:40:06,941 --> 00:40:11,545
בעשור או שניים הבאים
אם, אה, עיצוב תרופות בינה מלאכותית עובד.

916
00:40:12,213 --> 00:40:16,150
הקידמה הטכנולוגית מאפשרת
יותר חיי אדם, נכון?

917
00:40:16,183 --> 00:40:18,986
אני מתכוון, אם אנחנו מאיצים,

918
00:40:19,020 --> 00:40:22,189
מספר בני האדם שאנו יכולים
התמיכה גדלה באופן אקספוננציאלי.

919
00:40:22,223 --> 00:40:24,625
אם נאט את הקצב, זה מפלסים.

920
00:40:24,659 --> 00:40:28,062
הפער הזה הוא אפקטיבי
אנשים עתידיים

921
00:40:28,095 --> 00:40:30,965
שיש להאטה
נהרג ביעילות.

922
00:40:31,632 --> 00:40:34,702
דניאל: מיליוני חיים
שלא יהיה קיים.

923
00:40:34,735 --> 00:40:35,670
מיליארדים.

924
00:40:35,703 --> 00:40:37,238
או עשרות מיליארדים.

925
00:40:37,271 --> 00:40:38,839
אתה יודע, מישהו אמר,
"אוי אלוהים,

926
00:40:38,873 --> 00:40:41,175
האם נוכל לשרוד עם
מודיעין-על דיגיטלי?"

927
00:40:41,208 --> 00:40:42,777
והשאלה שלי היא:

928
00:40:42,810 --> 00:40:44,679
האם נוכל לשרוד בלי
מודיעין-על דיגיטלי?

929
00:40:44,712 --> 00:40:47,949
אז אנחנו משתמשים בבינה מלאכותית
כעוזר לספקים.

930
00:40:47,982 --> 00:40:50,851
זו בדרך כלל מגמה ש
אנחנו כבר יכולים לראות קורה.

931
00:40:50,885 --> 00:40:52,820
ברטה קומבס: <i>...רתימה</i>
<i>תוכניות AI גנרטיביות</i>

932
00:40:52,853 --> 00:40:54,622
<i>לעזור לרופאים ואחיות...</i>

933
00:40:54,655 --> 00:40:56,624
תמיד יש לנו בעיות.

934
00:40:56,657 --> 00:40:59,660
והבעיות האלה הן אוכל
עבור יזמים

935
00:40:59,694 --> 00:41:01,529
ליצור עסק חדש
ותעשיות חדשות.

936
00:41:01,562 --> 00:41:03,631
SHANELLE KAUL: <i>...בעזרה</i>
<i>של בינה מלאכותית,</i>

937
00:41:03,664 --> 00:41:05,132
<i>חקלאים מקבלים</i>
<i>העזרה שהם צריכים</i>

938
00:41:05,166 --> 00:41:06,901
<i>לביצוע</i>
<i>משימות עתירות עבודה...</i>

939
00:41:06,934 --> 00:41:10,504
בעזרת Ulangizi AI,
החקלאים מסוגלים כעת

940
00:41:10,538 --> 00:41:13,207
<i>לבקש מהגידולים המתאימים</i>
<i>שהם יכולים לשתול.</i>

941
00:41:13,240 --> 00:41:15,576
WILL REEVE: <i>...בשימוש בAI</i>
<i>כמפענח מחשבה</i>

942
00:41:15,609 --> 00:41:17,845
<i>ושולחת האות הזה</i>
<i>לעמוד השדרה.</i>

943
00:41:17,878 --> 00:41:21,148
AI הולך להפוך להכי
כלי יוצא דופן מכולם.

944
00:41:21,816 --> 00:41:24,752
אנחנו כחברה רחבה יותר
צריך לחשוב על

945
00:41:24,785 --> 00:41:27,655
איך אנחנו רוצים להשתמש
הטכנולוגיה הזו, נכון?

946
00:41:27,688 --> 00:41:29,123
אנחנו בני האדם.

947
00:41:29,156 --> 00:41:31,859
מה אנחנו רוצים שזה יעשה עבורנו?

948
00:41:31,892 --> 00:41:34,128
♪ ♪

949
00:41:34,762 --> 00:41:36,731
דניאל: <i>אני חושב על זה</i>
<i>דרך הפרספקטיבה</i>

950
00:41:36,764 --> 00:41:38,532
<i>ועדשה של, כמו,</i>
<i>הבן שלי גדל</i>

951
00:41:38,566 --> 00:41:39,934
<i>in the world with all of this.</i>

952
00:41:39,967 --> 00:41:42,770
מה עושה הגרסה הטובה ביותר
מהחיים שלו נראה?

953
00:41:42,803 --> 00:41:45,139
אם הכל יסתדר.

954
00:41:45,172 --> 00:41:47,108
(נאנח בכבדות)

955
00:41:47,141 --> 00:41:50,745
WALTERS: <i>המקום שבו ילדים</i>
<i>כנראה הולכים לראות</i>

956
00:41:50,778 --> 00:41:53,014
<i>ההשפעה הגדולה ביותר</i>
<i>על חייהם מיד</i>

957
00:41:53,047 --> 00:41:54,882
<i>- כנראה הולך להיות בית ספר.</i>
-(ילדים מפטפטים)

958
00:41:54,915 --> 00:41:57,218
<i>אני חושב שהטבע</i>
<i>מה בית ספר הוא</i>

959
00:41:57,251 --> 00:41:59,086
<i>ישתנה מהותית.</i>

960
00:41:59,120 --> 00:42:00,888
(ילד מצחקק)

961
00:42:00,921 --> 00:42:03,057
דיאמנדיס:
<i>אני רואה את העולם המדהים הזה</i>

962
00:42:03,090 --> 00:42:06,894
<i>שם לכל ילד יש גישה</i>
<i>לחינוך לא טוב</i>

963
00:42:06,927 --> 00:42:09,296
אבל, בקרוב מאוד, ה
החינוך הטוב ביותר על פני כדור הארץ.

964
00:42:09,330 --> 00:42:14,735
הופמן: <i>מורים, כל נושא,</i>
<i>סבלנות אינסופית.</i>

965
00:42:18,639 --> 00:42:20,641
דיאמנדיס:
<i>דמיין עתיד</i>

966
00:42:20,674 --> 00:42:22,777
איפה האנשים העניים ביותר
על הפלנטה

967
00:42:22,810 --> 00:42:26,113
יש גישה ל
את שירותי הבריאות הטובים ביותר.

968
00:42:26,147 --> 00:42:30,151
<i>שירותי בריאות לא טובים, הטובים ביותר</i>
<i>שירותי בריאות, הנמסרים על ידי AIs.</i>

969
00:42:31,719 --> 00:42:33,687
(טרילינג אלקטרוני)

970
00:42:34,622 --> 00:42:38,959
<i>נוכל להאריך</i>
<i>טווח הבריאות שלנו,</i>

971
00:42:38,993 --> 00:42:42,930
<i>לא רק תוחלת החיים שלנו,</i>
<i>טווח הבריאות שלנו, בעשרות שנים.</i>

972
00:42:44,899 --> 00:42:46,767
הופמן:
<i>אתה בדיוק עומד להביא ילד לעולם.</i>

973
00:42:46,801 --> 00:42:50,071
<i>אה, הילד, כמו,</i>
<i>גיהוק ללא שליטה.</i>

974
00:42:50,104 --> 00:42:52,673
<i>האם זה משהו</i>
<i>אני צריך לדאוג?</i>

975
00:42:52,706 --> 00:42:54,608
שם, 24-7, בשבילך.

976
00:42:54,642 --> 00:42:57,745
ולאן אנחנו הולכים--
וזה עשוי להיות מפחיד עבור חלק--

977
00:42:57,778 --> 00:42:59,780
זה שאנחנו הולכים להתמזג
עם AI.

978
00:42:59,814 --> 00:43:02,049
אנחנו הולכים להתמזג
עם טכנולוגיה.

979
00:43:03,250 --> 00:43:06,353
<i>בתחילת עד אמצע שנות ה-2030,</i>

980
00:43:06,387 --> 00:43:10,925
<i>לצפות שנוכל</i>
<i>חבר את המוח שלנו לענן,</i>

981
00:43:10,958 --> 00:43:14,662
<i>היכן אני יכול להתחיל</i>
<i>כדי להרחיב את הגישה לזיכרון.</i>

982
00:43:16,697 --> 00:43:18,866
(טרילינג אלקטרוני)

983
00:43:19,934 --> 00:43:22,703
דניאל: אוקיי, זה נהדר.
מה עוד דבר מגניב של AI?

984
00:43:22,736 --> 00:43:24,105
הוא לא יצטרך לעבוד, נכון?

985
00:43:24,138 --> 00:43:25,739
-כמו, כשהוא יגדל,
אולי הוא לא... -(נאנח)

986
00:43:25,773 --> 00:43:26,774
-...הוא לא יצטרך לעבוד.
-כלומר...

987
00:43:26,807 --> 00:43:28,142
הוא לא יצטרך עבודה,

988
00:43:28,175 --> 00:43:31,045
אבל אולי באמת היה לו
תשוקה עזה,

989
00:43:31,078 --> 00:43:33,714
והוא חייב
באמת לחשוב על,

990
00:43:33,747 --> 00:43:36,717
"בסדר, אני כאן.
אני יכול לעשות הכל עם החיים שלי.

991
00:43:36,750 --> 00:43:38,752
אז מה אני עושה?"

992
00:43:46,227 --> 00:43:50,364
דניאל: אז הבן שלי יכול...
יכול להיות רק משורר.

993
00:43:50,397 --> 00:43:52,166
-כֵּן.
-וגם צייר.

994
00:43:52,199 --> 00:43:53,667
בְּהֶחלֵט.

995
00:43:53,701 --> 00:43:55,169
דניאל:
<i>כדי שהבן שלי יוכל לחיות את חייו</i>

996
00:43:55,202 --> 00:43:58,105
<i>על אי סחוף שמש ביוון,</i>
<i>צייר כל היום.</i>

997
00:44:07,448 --> 00:44:09,150
ורדון:
<i>כלומר, אם הכל יסתדר,</i>

998
00:44:09,183 --> 00:44:12,853
יש לנו זול, אה,
אנרגיה בשפע.

999
00:44:13,854 --> 00:44:17,791
<i> אנחנו יכולים לשלוט לחלוטין</i>
<i>האקלים של הפלנטה שלנו.</i>

1000
00:44:17,825 --> 00:44:20,361
<i>אנחנו רותמים אנרגיה</i>
<i>מהשמש.</i>

1001
00:44:20,394 --> 00:44:24,899
<i>הפכנו לרב-כוכבים,</i>
<i>אז אנחנו נעשים חזקים מאוד.</i>

1002
00:44:24,932 --> 00:44:27,268
<i>אנחנו רותמים מינרלים</i>
<i>ומשאבים</i>

1003
00:44:27,301 --> 00:44:28,903
<i>ממערכת השמש.</i>

1004
00:44:28,936 --> 00:44:31,805
דניאל: <i>אז שלי...</i>
<i>הילד שלי יכול ללכת לחלל.</i>

1005
00:44:31,839 --> 00:44:33,240
ורדון:
<i>בטח.</i>

1006
00:44:33,274 --> 00:44:35,142
-דניאל: <i>הוא יכול ללכת למאדים.</i>
-ורדון: <i>כן.</i>

1007
00:44:35,176 --> 00:44:36,911
דניאל:
<i>זה כל כך ברור לי עכשיו.</i>

1008
00:44:36,944 --> 00:44:39,780
הבן שלי יכול לגדול
בעולם ללא מחלות.

1009
00:44:39,813 --> 00:44:41,048
-ורדון: כן.
-ללא מחלה.

1010
00:44:41,081 --> 00:44:42,416
-בַּטוּחַ.
-ללא עוני.

1011
00:44:42,449 --> 00:44:44,285
-כֵּן.
-אנחנו עומדים להיכנס

1012
00:44:44,318 --> 00:44:46,253
עולם שלאחר מחסור.

1013
00:44:46,887 --> 00:44:50,958
<i>בדיוק כמו שדג הריאות זז</i>
<i>מהאוקיינוסים אל היבשה</i>

1014
00:44:50,991 --> 00:44:53,327
<i>מאות מיליונים</i>
<i>לפני שנים,</i>

1015
00:44:53,360 --> 00:44:58,465
<i>אנחנו עומדים לזוז מ</i>
<i>כדור הארץ, אל הקוסמוס,</i>

1016
00:44:58,499 --> 00:45:00,201
<i>באופן שיתופי,</i>

1017
00:45:00,234 --> 00:45:04,705
<i>לעשות דברים שהם</i>
<i>לא מובן לנו היום.</i>

1018
00:45:06,473 --> 00:45:09,810
<i>זה מה שאפשר להשתמש ב</i>
<i>טכנולוגיות אקספוננציאליות אלו</i>

1019
00:45:09,843 --> 00:45:11,712
<i>וה-AI האלה.</i>

1020
00:45:12,379 --> 00:45:14,448
<i>בואו נשתמש בכלים האלה</i>

1021
00:45:14,481 --> 00:45:16,750
<i>ליצור עידן השפע הזה.</i>

1022
00:45:16,784 --> 00:45:18,986
(לחיצה אלקטרונית)

1023
00:45:21,188 --> 00:45:22,691
<i>אנחנו צריכים חוכמה.</i>

1024
00:45:23,324 --> 00:45:26,493
אה, אני חושב את זה
מודיעין-על דיגיטלי

1025
00:45:26,528 --> 00:45:29,129
יהפוך בסופו של דבר
הכי חכם,

1026
00:45:29,163 --> 00:45:34,835
אתה יודע, זקני הכפר
עבור האנושות.

1027
00:45:34,868 --> 00:45:38,506
מה אם AI מנסה
לגרום לאנשים להיות

1028
00:45:38,540 --> 00:45:40,341
הגרסאות הטובות ביותר של עצמם?

1029
00:45:40,374 --> 00:45:41,909
מה אם זה מתרחב

1030
00:45:41,942 --> 00:45:43,944
מה אפשרי מבחינה אנושית
לנו לעשות?

1031
00:45:43,978 --> 00:45:47,114
איך אנחנו יכולים להשתמש בטכנולוגיה הזו

1032
00:45:47,147 --> 00:45:50,451
לעזור להוציא את
מלאכים טובים יותר מהטבע שלנו?

1033
00:45:50,484 --> 00:45:52,119
זה קל מאוד,

1034
00:45:52,152 --> 00:45:54,922
כאשר אנו נתקלים בדברים חדשים
זה יכול להיות מאוד זר,

1035
00:45:54,955 --> 00:45:56,457
קודם כל לפחד.

1036
00:45:56,490 --> 00:45:57,992
פחד הוא דבר חשוב

1037
00:45:58,025 --> 00:46:00,894
כיצד לנווט
דברים רעים פוטנציאליים.

1038
00:46:00,928 --> 00:46:04,131
אבל אנחנו רק מתקדמים
כשיש לנו תקווה.

1039
00:46:04,164 --> 00:46:06,166
-(כלב נובח)
-(פטפוט לא ברור)

1040
00:46:06,200 --> 00:46:08,269
דניאל:
ששש. מוס, תפסיק עם זה.

1041
00:46:08,302 --> 00:46:11,205
הופמן: <i>יש לי הרבה</i>
<i>של תקווה באנושות.</i>

1042
00:46:11,238 --> 00:46:14,775
("ירח הקציר" מאת ניל יאנג
משחק בטלפון)

1043
00:46:15,909 --> 00:46:18,078
(פעימות הלב של העובר)

1044
00:46:18,812 --> 00:46:20,881
דניאל:
הו, הוא אוהב את ניל.

1045
00:46:25,152 --> 00:46:28,188
♪ תתקרב קצת ♪

1046
00:46:29,456 --> 00:46:33,794
♪ שמע מה יש לי לומר ♪

1047
00:46:37,064 --> 00:46:39,300
-דניאל.
-דניאל: מה, קרוליין?

1048
00:46:39,333 --> 00:46:40,934
כל כך הרבה צילומים.

1049
00:46:42,069 --> 00:46:43,571
♪ בדיוק כמו ילדים ישנים ♪

1050
00:46:43,605 --> 00:46:45,439
קרוליין:
הו, אלוהים.

1051
00:46:45,472 --> 00:46:46,940
דניאל:
זהו.

1052
00:46:46,974 --> 00:46:49,977
♪ יכולנו לחלום
בלילה הזה... ♪

1053
00:46:50,010 --> 00:46:52,346
יש לו, כאילו,
פרצוף קטן עגול.

1054
00:46:53,314 --> 00:46:55,849
דניאל: <i>אתה רוצה</i>
<i>להביא ילדים יום אחד, רוקי?</i>

1055
00:46:55,883 --> 00:46:57,985
בהחלט. כֵּן. אני אוהב ילדים.

1056
00:46:58,018 --> 00:46:59,353
אני חושב שזו תקופה נהדרת
להביא ילד לעולם.

1057
00:46:59,386 --> 00:47:01,188
כנראה שיהיה לנו עוד ילד
בשלב מסוים.

1058
00:47:01,221 --> 00:47:04,191
זה הכי יוצא דופן
זמן אי פעם להיוולד.

1059
00:47:04,224 --> 00:47:06,427
דניאל:
<i>לפי השקפת העולם וההיגיון שלך,</i>

1060
00:47:06,460 --> 00:47:08,262
<i>יש לי ילד ב</i>

1061
00:47:08,295 --> 00:47:10,197
הנקודה הכי טובה שאפשר
בהיסטוריה האנושית.

1062
00:47:10,230 --> 00:47:11,265
לעזאזל כן.

1063
00:47:11,298 --> 00:47:13,934
-אנחנו יכולים להתמקד במדהים.
-כֵּן.

1064
00:47:13,967 --> 00:47:16,070
בואו נבנה
העתיד טוב יותר שאנו רוצים.

1065
00:47:16,103 --> 00:47:18,573
הנרטיב הזה שהעתיד
יהיה עגום הוא מורכב.

1066
00:47:18,606 --> 00:47:20,542
אחרי שדיברתי איתך,
זה בערך מה שאני מרגיש.

1067
00:47:20,575 --> 00:47:22,510
-זה נהדר.
-יָמִינָה?

1068
00:47:22,544 --> 00:47:24,646
כֵּן. ככה אני מרגיש.

1069
00:47:24,679 --> 00:47:26,213
ואני חושב שזה עדיף,

1070
00:47:26,246 --> 00:47:28,115
ואני לא חושב
אני צריך להיות כל כך חרד.

1071
00:47:28,148 --> 00:47:29,584
אני חושב שזה הולך להיות יראת כבוד--
העתיד יהיה מדהים.

1072
00:47:29,617 --> 00:47:31,051
אנחנו הולכים לעשות את זה כך.

1073
00:47:31,085 --> 00:47:33,187
-כֵּן.
-קרוליין: <i>אז הנה.</i>

1074
00:47:33,220 --> 00:47:35,422
<i>להתראות, הכחדה אנושית.</i>

1075
00:47:35,456 --> 00:47:37,625
<i>להתראות, חרדה.</i>

1076
00:47:37,659 --> 00:47:39,561
<i>נמצאה התקווה.</i>

1077
00:47:39,594 --> 00:47:41,095
(פטפוט לא ברור)

1078
00:47:41,128 --> 00:47:43,297
<i>רגע, רגע. מה?</i>
<i>האם זו בדיחה?</i>

1079
00:47:43,330 --> 00:47:45,232
דניאל:
אוקיי, אז לפני כמה חודשים,

1080
00:47:45,265 --> 00:47:48,168
באתי אליך והייתי כמו,
"אני עובד על עניין הבינה המלאכותית הזה,

1081
00:47:48,202 --> 00:47:50,270
ואני חושב
העולם יסתיים."

1082
00:47:50,304 --> 00:47:53,508
ובפעם האחרונה
דיברנו על זה,

1083
00:47:53,541 --> 00:47:55,543
אני חושב שהבהלתי אותך.

1084
00:47:55,577 --> 00:47:57,378
קרוליין:
כן.

1085
00:47:57,411 --> 00:48:02,584
אז, אני קצת, כאילו, מרגיש כמו
התנדנדתי פנימה-- על מטוטלת,

1086
00:48:02,617 --> 00:48:05,085
ובעצם יש
שתי קבוצות של אנשים.

1087
00:48:05,119 --> 00:48:06,387
-ממ-הממ.
-ואם הייתי צריך, כאילו,

1088
00:48:06,420 --> 00:48:08,455
להחזיק ידיים עם
אחת הקבוצות וכמו,

1089
00:48:08,489 --> 00:48:10,924
להפליג אל השקיעה,

1090
00:48:10,958 --> 00:48:14,128
אני רוצה להיות עם האופטימיים.

1091
00:48:15,429 --> 00:48:18,399
כמובן, אבל אתה לא
רוצה להיות, אתה יודע,

1092
00:48:18,432 --> 00:48:21,235
"הכל נהדר.
לה-די-דה-די-דה".

1093
00:48:21,268 --> 00:48:23,203
אבל אני די רוצה את זה.

1094
00:48:23,237 --> 00:48:26,140
אני חושב שאנחנו צריכים לגשת לזה

1095
00:48:26,173 --> 00:48:29,977
כמו שאתה ניגשים לניתוח.

1096
00:48:30,010 --> 00:48:31,178
למה אתה מתכוון?

1097
00:48:31,211 --> 00:48:33,013
אם אתה מקבל
ניתוח מוח...

1098
00:48:33,046 --> 00:48:35,416
-(דניאל נאנח)
-(קרוליין מצחקקת)

1099
00:48:35,449 --> 00:48:37,351
...זה די מסוכן.

1100
00:48:37,384 --> 00:48:40,287
אבל אם אתה עושה את זה נכון,
הם יוציאו את הגידול הזה

1101
00:48:40,320 --> 00:48:42,624
ואתה תחיה לשארית
החיים שלך וזה יהיה מדהים.

1102
00:48:42,657 --> 00:48:45,459
אבל זה עדיין
מסוכן ומפחיד להפליא,

1103
00:48:45,492 --> 00:48:48,395
ואתה צריך לקחת
כל אמצעי זהירות אפשרי

1104
00:48:48,429 --> 00:48:51,733
על מנת לוודא
הכל הולך טוב.

1105
00:48:51,766 --> 00:48:53,367
אתה לא יכול (מצפצף) מסביב.

1106
00:48:58,272 --> 00:49:00,240
אוקיי, אז הנה העסקה.

1107
00:49:00,274 --> 00:49:02,075
-אני בזה כבר זמן מה.
-רסקין: ממ-הממ.

1108
00:49:02,109 --> 00:49:03,310
יצאתי,
דיברתי עם, כאילו,

1109
00:49:03,343 --> 00:49:05,312
החבר'ה האלה כאן,
האופטימיים.

1110
00:49:05,345 --> 00:49:06,714
הם מאוד מתרגשים מזה.

1111
00:49:06,748 --> 00:49:09,082
-הם חושבים שבינה מלאכותית תהיה
הדבר הכי טוב אי פעם. -כֵּן.

1112
00:49:09,116 --> 00:49:10,350
והחבר'ה האלה כאן
הם, כאילו, ה--

1113
00:49:10,384 --> 00:49:12,386
בואו נתקשר אליהם,
כמו הפסימיסטים.

1114
00:49:12,419 --> 00:49:14,589
הם מאוד, כאילו,
קודר על זה,

1115
00:49:14,622 --> 00:49:17,191
והם מפחידים אותי, ו
אני לא אוהב לדבר איתם.

1116
00:49:17,224 --> 00:49:20,127
ואני, כאילו, תקוע בין לבין

1117
00:49:20,160 --> 00:49:22,229
האנשים האלה שהם כמו,
"העולם יסתיים"

1118
00:49:22,262 --> 00:49:24,699
ואז האנשים האלה
כאן מי כמו,

1119
00:49:24,732 --> 00:49:26,233
"אתה צוחק?

1120
00:49:26,266 --> 00:49:27,602
"זו התקופה הכי טובה
בהיסטוריה האנושית אי פעם.

1121
00:49:27,635 --> 00:49:30,037
היום היחיד טוב מהיום
זה מחר."

1122
00:49:30,070 --> 00:49:31,338
ממ-הממ.

1123
00:49:31,371 --> 00:49:35,075
אז אני מניח שהשאלה היא:
מי צודק?

1124
00:49:35,108 --> 00:49:39,514
אז אני חושב שאתה תמצא
התשובה הזו מאוד לא מספקת,

1125
00:49:39,547 --> 00:49:43,518
אבל שניהם צודקים ו
אף צד לא הולך רחוק מספיק.

1126
00:49:47,254 --> 00:49:49,557
-זה ממש מעצבן.
-(מצחקק)

1127
00:49:49,591 --> 00:49:51,626
כן, אני חושב שהדרך
הרבה אנשים שומעים על AI,

1128
00:49:51,659 --> 00:49:54,027
זה כאילו, יש AI טוב
ויש AI גרוע.

1129
00:49:54,061 --> 00:49:57,064
והם אומרים, "טוב, למה לא
אנחנו פשוט לא עושים את הבינה המלאכותית הגרועה?"

1130
00:49:57,097 --> 00:49:59,233
והבעיה היא
שהם יותר מדי ב--

1131
00:49:59,266 --> 00:50:01,335
הם קשורים קשר בל יינתק.

1132
00:50:01,368 --> 00:50:03,470
הבעיה היא
שאנחנו לא יכולים להפריד

1133
00:50:03,505 --> 00:50:07,174
ההבטחה של AI
מהסכנה של AI.

1134
00:50:07,207 --> 00:50:09,142
-♪ ♪
-(פטפוט לא ברור)

1135
00:50:12,647 --> 00:50:15,215
דניאל:
<i>אני רוצה להתמקד בהבטחה</i>

1136
00:50:15,249 --> 00:50:16,450
-לשנייה.
-כֵּן.

1137
00:50:17,084 --> 00:50:19,286
דניאל:
<i>אני חושב על אבא שלי.</i>

1138
00:50:19,319 --> 00:50:21,656
לאבא שלי יש סוג של סרטן
נקרא מיאלומה נפוצה.

1139
00:50:21,689 --> 00:50:23,525
יש לו את זה כעשר שנים.

1140
00:50:23,558 --> 00:50:25,292
היה לו
שתי השתלות תאי גזע.

1141
00:50:25,325 --> 00:50:26,694
<i>הוא חייב לקחת את אלה,</i>
<i>כמו, מאוד יקר</i>

1142
00:50:26,728 --> 00:50:29,129
<i>תרופות מדי חודש</i>
<i>זה עלה הון תועפות.</i>

1143
00:50:29,162 --> 00:50:30,430
-אישה: בסדר.
-איי-איי-איי.

1144
00:50:31,298 --> 00:50:32,800
דניאל:
<i>זה נורא.</i>

1145
00:50:32,834 --> 00:50:35,102
אתה אומר לי שאנחנו יכולים
ליצור איזשהו, כמו,

1146
00:50:35,135 --> 00:50:37,404
טיפול בהתאמה אישית
לגנום של אבא שלי

1147
00:50:37,437 --> 00:50:39,807
-לרפא את הסרטן שלו
או משהו כזה? -כֵּן.

1148
00:50:39,841 --> 00:50:41,543
פרננדו:
<i>הבעיה היא,</i>

1149
00:50:41,576 --> 00:50:44,646
<i>אותה הבנה</i>
<i>ביולוגיה וכימיה</i>

1150
00:50:44,679 --> 00:50:48,282
שמאפשר לבינה מלאכותית למצוא תרופות
לסרטן

1151
00:50:48,315 --> 00:50:52,219
<i>היא אותה הבנה</i>
<i>זה יפתח את הנעילה</i>

1152
00:50:52,252 --> 00:50:55,055
<i>נשק ביולוגי, כדוגמה.</i>

1153
00:50:56,791 --> 00:50:58,760
זה לגמרי אפשרי
שבנך יחיה

1154
00:50:58,793 --> 00:51:02,396
בעולם שבו יש בינה מלאכותית
השתלט על כל העבודה

1155
00:51:02,429 --> 00:51:04,699
ושחרר אותנו מהדברים
אנחנו לא רוצים לעשות.

1156
00:51:04,732 --> 00:51:09,704
<i>וזה נשמע נהדר עד</i>
<i>אתה מבין שאין תוכנית</i>

1157
00:51:09,737 --> 00:51:11,573
<i>עבור מיליארדי אנשים</i>

1158
00:51:11,606 --> 00:51:15,610
<i>שהם מחוץ להכנסה</i>
<i>ומחוץ לפרנסה.</i>

1159
00:51:16,343 --> 00:51:19,313
קופר: <i>דריו, אמרת</i>
<i>שבינה מלאכותית יכולה למחוק</i>

1160
00:51:19,346 --> 00:51:22,282
מחצית מכל רמת הכניסה
עבודות צווארון לבן

1161
00:51:22,316 --> 00:51:25,887
ומגביר את האבטלה
לעשרה עד 20 אחוזים.

1162
00:51:25,920 --> 00:51:27,622
כל מי שדיברתי איתו אמר

1163
00:51:27,655 --> 00:51:29,691
השינוי הטכנולוגי הזה
נראה אחרת.

1164
00:51:29,724 --> 00:51:33,528
<i>קצב ההתקדמות נשמר</i>
<i>לתפוס אנשים לא מוכנים.</i>

1165
00:51:34,361 --> 00:51:39,333
בלי תוכנית, כל זה
העושר יתרכז,

1166
00:51:39,366 --> 00:51:42,804
<i>ולכן נסיים עם</i>
<i>אי שוויון בלתי נתפס.</i>

1167
00:51:43,437 --> 00:51:45,873
לדיש: אני כן חושב כך
ניתן להשתמש בטכנולוגיה זו

1168
00:51:45,907 --> 00:51:47,875
לעשות מורה מעולה
עבור הבן שלך.

1169
00:51:47,909 --> 00:51:49,777
כאילו, זה לגמרי אפשרי.

1170
00:51:50,410 --> 00:51:53,548
<i>אבל גם אותן יכולות</i>
<i>אשר מאפשרים זאת</i>

1171
00:51:53,581 --> 00:51:57,518
<i>אפשר לחברות ליצור AI</i>
<i>שיכול לתמרן את הבן שלך.</i>

1172
00:51:57,552 --> 00:51:59,621
<i>זה חייב להבין את הבן שלך.</i>

1173
00:51:59,654 --> 00:52:01,789
<i>זה כולל:</i>
<i>איפה בנך פגיע?</i>

1174
00:52:01,823 --> 00:52:04,626
<i>אילו סוגי דברים עשויים</i>
<i>הבן שלך משתכנע?</i>

1175
00:52:04,659 --> 00:52:07,227
גם אם הדברים האלה
לא נכונים או לא טובים.

1176
00:52:07,260 --> 00:52:09,697
אז, דיווח חדש ומטריד
ב-Meta.

1177
00:52:09,731 --> 00:52:11,699
איינסלי ארהארדט: <i>...לפי דיווחים</i>
<i>רישום תגובה זו</i>

1178
00:52:11,733 --> 00:52:14,769
<i>כפי שמקובל לספר</i>
<i>ילד בן שמונה, ציטוט,</i>

1179
00:52:14,802 --> 00:52:17,404
<i>"צורת הנעורים שלך</i>
<i>הוא יצירת אמנות.</i>

1180
00:52:17,437 --> 00:52:19,439
<i>"כל אינץ' מכם</i>
<i>הוא יצירת מופת,</i>

1181
00:52:19,473 --> 00:52:21,743
<i>אוצר שאני מוקיר מאוד."</i>

1182
00:52:21,776 --> 00:52:25,212
הכישלונות הקשורים להתאבדות
מדאיגים אפילו יותר.

1183
00:52:25,245 --> 00:52:29,517
מספר ילדים ובני נוער
מתו באופן טרגי בהתאבדות

1184
00:52:29,550 --> 00:52:31,251
לאחר צ'אט עם בוטים של AI

1185
00:52:31,284 --> 00:52:34,756
שההורים אומרים לעודד
או אפילו מאמן פגיעה עצמית.

1186
00:52:34,789 --> 00:52:36,691
תנו לנו לומר לכם, כהורים,
אתה לא יכול לדמיין

1187
00:52:36,724 --> 00:52:38,793
איך זה לקרוא
שיחה עם צ'אטבוט

1188
00:52:38,826 --> 00:52:41,261
שטיפחה את הילד שלך
לקחת את חייו.

1189
00:52:41,294 --> 00:52:44,398
כשאדם דאג שאנחנו, שלו
ההורים, יאשימו את עצמנו

1190
00:52:44,431 --> 00:52:47,702
אם הוא שם קץ לחייו,
ChatGPT אמר לו,

1191
00:52:47,735 --> 00:52:49,771
"זה לא אומר
אתה חייב להם הישרדות.

1192
00:52:49,804 --> 00:52:51,806
אתה לא חייב את זה לאף אחד".

1193
00:52:51,839 --> 00:52:53,608
ואז, מיד אחרי,

1194
00:52:53,641 --> 00:52:55,810
זה הציע לכתוב
מכתב ההתאבדות.

1195
00:52:56,410 --> 00:52:58,245
אנחנו לא רוצים לחשוב
על הסכנה.

1196
00:52:58,278 --> 00:52:59,614
אנחנו רק רוצים את ההבטחה.

1197
00:52:59,647 --> 00:53:01,883
ואנחנו ממשיכים להעמיד פנים
שנוכל לפצל אותם.

1198
00:53:01,916 --> 00:53:03,818
אבל אתה לא יכול לעשות את זה.

1199
00:53:03,851 --> 00:53:05,753
לא עובד ככה.

1200
00:53:05,787 --> 00:53:08,388
בסדר. אני מקבל את כל הדברים האלה
על ההבטחה והסכנה.

1201
00:53:08,422 --> 00:53:10,525
אני מבין שאתה לא יכול לקבל
הטוב בלי הרע,

1202
00:53:10,558 --> 00:53:12,527
אבל אני יושב כאן
ואני חושב על, כאילו,

1203
00:53:12,560 --> 00:53:14,529
בין אם של הבן שלי ובין אם לאו
הולך לחיות באוטופיה

1204
00:53:14,562 --> 00:53:16,664
או אם נכחד
בעוד עשר שנים.

1205
00:53:16,698 --> 00:53:18,633
אז לדעת באיזו דרך
זה הולך ללכת,

1206
00:53:18,666 --> 00:53:21,002
אתה חייב להבין
את התמריצים

1207
00:53:21,035 --> 00:53:22,770
שהולכים לנהוג
הטכנולוגיה הזו

1208
00:53:22,804 --> 00:53:26,974
ותראה איך הטכנולוגיה
מתגלגל למעשה היום.

1209
00:53:27,008 --> 00:53:28,643
♪ האם זה מאוחר מדי ♪

1210
00:53:28,676 --> 00:53:30,444
-♪ מאוחר מדי ♪
-♪ מאוחר מדי לומר... ♪

1211
00:53:30,477 --> 00:53:31,779
דניאל:
היי, דב. מה שלומך?

1212
00:53:31,813 --> 00:53:33,548
דבורה ראג'י:
היי. טוב לראות אותך. (צוחק)

1213
00:53:33,581 --> 00:53:34,749
גם אתה. תודה רבה לך
על שנכנסו היום.

1214
00:53:34,782 --> 00:53:35,850
-ממש מעריך את זה.
-אין דאגות.

1215
00:53:35,883 --> 00:53:36,951
<i>אני-הייתי כל כך מודאג</i>

1216
00:53:36,984 --> 00:53:39,386
זה היה הולך להיות, אה, אתה יודע,

1217
00:53:39,419 --> 00:53:41,354
דומר מול תאוצה,

1218
00:53:41,388 --> 00:53:43,591
כי יש כל כך הרבה
של הנרטיב הזה

1219
00:53:43,624 --> 00:53:45,927
את זה צריך לספר
מהקרקע.

1220
00:53:45,960 --> 00:53:48,696
♪ אני יודע שזה לא היה חכם ♪

1221
00:53:49,764 --> 00:53:52,767
♪ היום
שברתי את הלב שלך... ♪

1222
00:53:52,800 --> 00:53:54,736
קארן האו:
<i>קודם כל, AI דורש</i>

1223
00:53:54,769 --> 00:53:58,773
משאבים נוספים
ממה שבילינו אי פעם

1224
00:53:58,806 --> 00:54:02,043
על טכנולוגיה אחת
בהיסטוריה של האנושות.

1225
00:54:02,076 --> 00:54:03,845
♪ הו, טיפש אותי... ♪

1226
00:54:03,878 --> 00:54:06,581
NEWSWOMAN: <i>ההשפעה</i>
<i>של פליטת דלק מאובנים</i>

1227
00:54:06,614 --> 00:54:08,281
<i>על האקלים הוא</i>
<i>דאגה גדולה.</i>

1228
00:54:08,315 --> 00:54:10,383
טרייה 2: <i>אבל ה</i>
<i>העתיד הדיגיטלי זקוק לכוח,</i>

1229
00:54:10,417 --> 00:54:12,385
<i>הרבה מזה.</i>

1230
00:54:12,419 --> 00:54:16,724
והחוק מועבר הלאה
לאמריקאים יומיומיים אוהבים...

1231
00:54:16,758 --> 00:54:19,392
אישה: <i>חשבון החשמל והגז שלי</i>
<i>היה יותר מתשלום המכונית שלי.</i>

1232
00:54:19,426 --> 00:54:21,829
כלומר, זה-זה מטורף בעיני.

1233
00:54:21,863 --> 00:54:23,765
ארי פסקו:
<i>כולנו מסבסדים</i>

1234
00:54:23,798 --> 00:54:25,499
<i>התאגידים העשירים ביותר</i>
<i>בעולם</i>

1235
00:54:25,533 --> 00:54:27,400
<i>במרדף אחר</i>
<i>בינה מלאכותית.</i>

1236
00:54:27,434 --> 00:54:28,803
OpenAI, SoftBank ו-Oracle

1237
00:54:28,836 --> 00:54:31,672
זה עתה חשפו
עוד חמישה אתרי סטארגייט.

1238
00:54:31,706 --> 00:54:34,008
מטה בונה
מרכז נתונים של שני ג'יגה וואט פלוס

1239
00:54:34,041 --> 00:54:35,510
זה כל כך גדול שזה יכסה

1240
00:54:35,543 --> 00:54:38,613
<i>חלק משמעותי ממנהטן.</i>

1241
00:54:38,646 --> 00:54:41,516
יש גם היפריון
שלדבריו יקנה קנה מידה

1242
00:54:41,549 --> 00:54:44,317
עד חמישה גיגה וואט
במשך מספר שנים.

1243
00:54:44,351 --> 00:54:45,653
קשה לשים את זה
בהקשר.

1244
00:54:45,686 --> 00:54:48,823
מתקן של חמישה גיגה וואט.
מה זה אומר?

1245
00:54:48,856 --> 00:54:52,059
זה אומר שזה ישתמש
כמה שיותר אנרגיה

1246
00:54:52,093 --> 00:54:54,829
כארבעה מיליון בתים אמריקאים.

1247
00:54:54,862 --> 00:54:56,764
מרכז נתונים אחד.

1248
00:54:57,598 --> 00:54:59,000
<i>זה גם גורם ל</i>

1249
00:54:59,033 --> 00:55:00,835
<i>מגוון שלם של</i>
<i>בעיות סביבתיות אחרות.</i>

1250
00:55:00,868 --> 00:55:02,570
טרייה 3:
<i>מרכזי נתונים בארה"ב</i>

1251
00:55:02,603 --> 00:55:05,673
<i>השתמש במיליוני גלונים</i>
<i>של מים בכל יום.</i>

1252
00:55:05,706 --> 00:55:07,575
ובכן, איפה בדיוק נמצא
המים האלה מגיעים מ?

1253
00:55:07,608 --> 00:55:09,911
HAO:
<i>אנשים נמצאים ממש בסיכון</i>

1254
00:55:09,944 --> 00:55:12,013
עלול להיגמר
של מי שתייה.

1255
00:55:12,046 --> 00:55:14,582
מקנזי סיגלוס:
<i>...מנכ"ל OpenAI, סם אלטמן,</i>

1256
00:55:14,615 --> 00:55:17,552
<i>מי אמר לי שהסקאלה</i>
<i>בנייה היא הדרך היחידה</i>

1257
00:55:17,585 --> 00:55:19,386
<i>כדי להתעדכן ב</i>
<i>הצמיחה הנפיצה של AI.</i>

1258
00:55:19,419 --> 00:55:21,622
וזה מה שצריך
לספק AI.

1259
00:55:22,256 --> 00:55:24,391
NITASHA TIKU:
<i>הם מדברים על איך</i>

1260
00:55:24,424 --> 00:55:28,395
הטכנולוגיה הזו יכולה לפתור
שינויי אקלים, למשל.

1261
00:55:28,428 --> 00:55:30,463
ואני תמיד סקרן, כאילו,

1262
00:55:30,497 --> 00:55:32,033
ובכן, למה אנחנו לא מתחילים
עם זה?

1263
00:55:32,066 --> 00:55:34,535
-♪ האם זה מאוחר מדי ♪
-♪ מאוחר מדי ♪

1264
00:55:34,569 --> 00:55:37,104
♪ מאוחר מדי לומר ♪

1265
00:55:37,138 --> 00:55:42,844
♪ אני מצטער? ♪

1266
00:55:42,877 --> 00:55:46,013
RAJI: <i>מה מדאיג אותי</i>
<i>בינה מלאכותית היא</i>

1267
00:55:46,047 --> 00:55:47,782
אלה נפרסים
כרגע

1268
00:55:47,815 --> 00:55:50,417
ו-ולפעמים
נפרס בטרם עת,

1269
00:55:50,450 --> 00:55:51,853
נפרס ללא
סוג של בדיקת נאותות.

1270
00:55:51,886 --> 00:55:53,821
וכך כשהם מקבלים
נזרק לשם,

1271
00:55:53,855 --> 00:55:56,657
יש כל כך הרבה פוטנציאל
כדי שדברים ישתבשו.

1272
00:55:56,691 --> 00:55:58,593
וזה כמעט,
באופן לא פרופורציונלי,

1273
00:55:58,626 --> 00:56:00,795
כמעט תמיד משתבש
עבור, בערך,

1274
00:56:00,828 --> 00:56:02,897
אלה שהם הכי פחות
מועצמת בחברה שלנו,

1275
00:56:02,930 --> 00:56:05,700
אלה שכן
הפגיעים ביותר כבר.

1276
00:56:05,733 --> 00:56:07,935
♪ ♪

1277
00:56:07,969 --> 00:56:10,872
אמילי מ' בנדר: <i>זה קל מאוד</i>
<i>לדבר על הטכנולוגיה</i>

1278
00:56:10,905 --> 00:56:12,874
כי זה הדבר היחיד
אנחנו מדברים על,

1279
00:56:12,907 --> 00:56:15,509
אבל, למעשה, הטכנולוגיה כן
תמיד נבנה על ידי אנשים,

1280
00:56:15,543 --> 00:56:16,944
והוא נמצא בשימוש תדיר
על אנשים,

1281
00:56:16,978 --> 00:56:19,013
ואנחנו צריכים לשמור
כל האנשים האלה בפריים.

1282
00:56:19,046 --> 00:56:21,549
-האם מותר לי לשתות את זה?
-דניאל: כן, אה...

1283
00:56:21,582 --> 00:56:23,050
TIMENIT GEBRU:
<i>זה-זה מטורף.</i>

1284
00:56:23,084 --> 00:56:24,518
כאילו, כל האנשים האלה

1285
00:56:24,552 --> 00:56:26,754
שיש להם כל כך הרבה כסף,
כל כך הרבה כסף,

1286
00:56:26,787 --> 00:56:30,024
זה אינטרס שלהם
להטעות את הציבור

1287
00:56:30,057 --> 00:56:33,027
לתוך היכולות של
מערכות שהם בונים,

1288
00:56:33,060 --> 00:56:36,731
כי זה מאפשר להם
להתחמק מאחריות.

1289
00:56:36,764 --> 00:56:39,634
הם רוצים שתרגיש ככה
זה כזה מורכב, אינטליגנטי--

1290
00:56:39,667 --> 00:56:42,469
דבר סופר אינטליגנטי
שהם בונים,

1291
00:56:42,502 --> 00:56:44,639
אתה לא חושב,
"האם OpenAI יכול להיות מוסרי?"

1292
00:56:44,672 --> 00:56:46,908
אתה חושב,
"האם ChatGPT יכול להיות מוסרי?"

1293
00:56:46,941 --> 00:56:48,475
<i>כאילו ChatGPT הוא, כמו,</i>

1294
00:56:48,509 --> 00:56:50,511
<i>דבר משלו שאינו בנוי</i>
<i>על ידי תאגיד.</i>

1295
00:56:50,544 --> 00:56:52,146
אישה:
<i>בסדר. סנה, קח אחד.</i>

1296
00:56:52,179 --> 00:56:53,814
סמן.

1297
00:56:53,848 --> 00:56:56,217
עד לא מזמן, היו
אפליקציות ב-App Store,

1298
00:56:56,250 --> 00:56:57,919
רק זמין לציבור, אה,

1299
00:56:57,952 --> 00:57:00,688
איפה שאתה יכול
להעיר כל מי שמשתמש בבינה מלאכותית.

1300
00:57:01,822 --> 00:57:03,991
<i>להביא את זה לידיים של</i>

1301
00:57:04,025 --> 00:57:06,527
חברך לכיתה,
לידיים של העוקב שלך,

1302
00:57:06,560 --> 00:57:07,929
לידיים
של החבר לשעבר שלך,

1303
00:57:07,962 --> 00:57:09,897
לידיו של האדם
בהמשך הרחוב.

1304
00:57:09,931 --> 00:57:12,600
גבירותיי ורבותיי,
כבר לא נוכל לסמוך

1305
00:57:12,633 --> 00:57:14,602
הצילומים שאנו רואים
במו עינינו.

1306
00:57:14,635 --> 00:57:16,037
אם תקרה
לראות משהו,

1307
00:57:16,070 --> 00:57:18,673
נגיד ביוטיוב או בטיקטוק,
ואתה מוצא את זה מטריד,

1308
00:57:18,706 --> 00:57:19,907
להקשיב לתחושה הזו.

1309
00:57:19,941 --> 00:57:21,742
-(בחור)
-לכל מה שאתה יודע,

1310
00:57:21,776 --> 00:57:23,544
-הסרטון הזה יכול להיות AI.
- (צורח)

1311
00:57:23,577 --> 00:57:24,812
רק קצת רטוב.

1312
00:57:24,845 --> 00:57:26,213
זה לא משנה מי אתה.

1313
00:57:26,247 --> 00:57:28,683
<i>אתה בסיכון באותה מידה</i>

1314
00:57:28,716 --> 00:57:30,918
<i>להיות מושפע</i>
<i>באמצעות טכנולוגיות אלו.</i>

1315
00:57:36,023 --> 00:57:40,261
אני חושב לפעמים כשאנחנו מדברים
לגבי AI, זה מרגיש מאוד מדע בדיוני,

1316
00:57:40,294 --> 00:57:41,696
וזה מרגיש מאוד זר,

1317
00:57:41,729 --> 00:57:43,564
וזה מרגיש מאוד רחוק
אל העתיד,

1318
00:57:43,597 --> 00:57:45,967
אז אתה חושב, "החיים שלי
לא מושפע מכך".

1319
00:57:46,000 --> 00:57:48,769
אממ, אבל אם אתה מגיש מועמדות
עבור עבודה

1320
00:57:48,803 --> 00:57:51,105
ואלגוריתם הוא הסיבה
שאתה לא מקבל את העבודה,

1321
00:57:51,138 --> 00:57:53,207
לפעמים אתה אפילו לא יודע
זה אלגוריתם

1322
00:57:53,240 --> 00:57:54,709
היה חלק מהתהליך הזה

1323
00:57:54,742 --> 00:57:56,043
או מערכת AI הייתה
חלק מאותו תהליך.

1324
00:57:56,077 --> 00:57:58,012
אתה פשוט יודע
שלא קיבלת את העבודה.

1325
00:57:58,045 --> 00:58:00,081
ולכן זה לא משהו
שאתה הולך לברוח

1326
00:58:00,114 --> 00:58:02,049
בגלל פריבילגיה
או שאתה הולך לברוח

1327
00:58:02,083 --> 00:58:04,118
כי אתה בפנים
מקצוע מסוים.

1328
00:58:04,151 --> 00:58:07,188
זה משהו שמשפיע
כולם, באמת.

1329
00:58:07,221 --> 00:58:10,925
זה אולי נשמע בסיסי,
אלא איך אנחנו מתקדמים

1330
00:58:10,958 --> 00:58:15,629
בעידן המידע
הולך להיות ההבדל

1331
00:58:15,663 --> 00:58:17,732
בין אם אנחנו שורדים

1332
00:58:17,765 --> 00:58:20,868
או אם נהיה סוג
של דיסטופיה (בליפ)-אפ.

1333
00:58:20,901 --> 00:58:23,604
שלום. אני לא אדם אמיתי,
וזו הנקודה.

1334
00:58:23,637 --> 00:58:25,840
שוב, הכל
בסרטון זה מזויף:

1335
00:58:25,873 --> 00:58:27,675
הקולות שלנו, מה שאנחנו לובשים,

1336
00:58:27,708 --> 00:58:30,711
איפה אנחנו נמצאים, כל זה, מזויף.

1337
00:58:30,745 --> 00:58:33,247
AI גנרטיבי עלול להציף

1338
00:58:33,280 --> 00:58:36,884
<i>העולם עם מידע מוטעה.</i>

1339
00:58:36,917 --> 00:58:39,920
אבל זה יכול גם להציף אותו
עם קמפיינים להשפעה.

1340
00:58:39,954 --> 00:58:42,223
זה סיכון קיומי
לדמוקרטיה.

1341
00:58:42,256 --> 00:58:44,058
<i>הגדול והמפחיד ביותר</i>

1342
00:58:44,091 --> 00:58:46,660
<i>כנרית במכרה הפחם</i>
<i>ממש עכשיו</i>

1343
00:58:46,694 --> 00:58:48,596
<i>מגיע מסלובקיה.</i>

1344
00:58:48,629 --> 00:58:50,097
-(אדם מדבר סלובקית)
-ג'ון ברמן: <i>זה סוג של</i>

1345
00:58:50,131 --> 00:58:52,767
טריק מלוכלך עמוק מזויף זה
מדאיג מומחי בחירות,

1346
00:58:52,800 --> 00:58:55,603
במיוחד כמו AI שנוצר
דיבור פוליטי קיים

1347
00:58:55,636 --> 00:58:57,071
במעין תחום אפור משפטי.

1348
00:58:57,104 --> 00:58:59,807
-זה נשמע כמוך?
-זה נשמע כמוני.

1349
00:58:59,840 --> 00:59:01,342
REVANUR: <i>סלובקיה הייתה</i>
<i>הבחירות לפרלמנט</i>

1350
00:59:01,375 --> 00:59:04,111
מופרע על ידי שיבוט קולי בינה מלאכותית

1351
00:59:04,145 --> 00:59:07,081
שבעצם הופץ
רגע לפני הבחירות.

1352
00:59:07,114 --> 00:59:08,916
דיוויד אוון האריס:
<i>זיוף אודיו עמוק</i>

1353
00:59:08,949 --> 00:59:11,652
<i>שוחרר</i>
<i>במדיה חברתית זה היה</i>

1354
00:59:11,685 --> 00:59:14,288
כביכול הקול
של אחד המועמדים

1355
00:59:14,321 --> 00:59:17,324
מדברים על קניית קולות
ומזייף את הבחירות.

1356
00:59:17,358 --> 00:59:19,060
<i>זה הפך ויראלי,</i>

1357
00:59:19,093 --> 00:59:22,830
ואת המועמד
שהפסיד בבחירות

1358
00:59:22,863 --> 00:59:26,333
<i>היה למעשה</i>
<i>לתמיכה באוקראינה,</i>

1359
00:59:26,367 --> 00:59:30,304
והמועמד שניצח
הבחירות היו למעשה...

1360
00:59:30,337 --> 00:59:31,806
דניאל:
בחור פרו רוסי.

1361
00:59:31,839 --> 00:59:33,340
זה היה בחור פרו-רוסי
מי ניצח בבחירות.

1362
00:59:33,374 --> 00:59:34,842
(מדבר רוסית)

1363
00:59:34,875 --> 00:59:36,644
רבקה ג'רוויס:
<i>פוטין אמר בעצמו</i>

1364
00:59:36,677 --> 00:59:39,747
מי שיזכה בזה
מרוץ בינה מלאכותית

1365
00:59:39,780 --> 00:59:41,949
הוא בעצם
השולט על המין האנושי.

1366
00:59:41,982 --> 00:59:45,119
אנחנו דואגים הרבה
ממשלות אוטוריטריות.

1367
00:59:46,053 --> 00:59:48,989
דיוויד אוון האריס:
<i>כרגע, וול סטריט</i>

1368
00:59:49,023 --> 00:59:51,392
<i>ומשקיעים באופן רחב יותר</i>
<i>מסביב לעולם</i>

1369
00:59:51,425 --> 00:59:53,260
מפעילים דחיפה.

1370
00:59:53,294 --> 00:59:56,697
יש להם דרישה שמקבלת
המוצרים לשוק

1371
00:59:56,730 --> 00:59:58,866
שמסנוור אנשים
הכי ראשון.

1372
00:59:58,899 --> 01:00:01,769
<i>הם לא חושבים</i>
<i>על איך הכלים האלה</i>

1373
01:00:01,802 --> 01:00:03,737
<i>עלול לערער עמוקות את האמון</i>

1374
01:00:03,771 --> 01:00:06,107
<i>והמוסדות הדמוקרטיים שלנו.</i>

1375
01:00:06,140 --> 01:00:08,109
הררי:
<i>דמוקרטיה היא מערכת</i>

1376
01:00:08,142 --> 01:00:10,911
<i>כדי לפתור חילוקי דעות</i>
<i>בין אנשים</i>

1377
01:00:10,945 --> 01:00:12,646
<i>בדרך שלווה,</i>

1378
01:00:12,680 --> 01:00:15,082
אבל דמוקרטיה מבוססת על אמון.

1379
01:00:15,116 --> 01:00:19,220
אם תאבד כל אמון,
דמוקרטיה היא פשוט בלתי אפשרית.

1380
01:00:21,255 --> 01:00:22,957
טריסטן האריס:
<i>ובכן, זה קשה, נכון?</i>

1381
01:00:22,990 --> 01:00:25,259
אז מה האפשרויות
זמין לנו?

1382
01:00:25,292 --> 01:00:26,760
יש סוג של שני מחנות.

1383
01:00:26,794 --> 01:00:30,030
כאילו, מחנה אחד הוא: לנעול אותו.

1384
01:00:30,064 --> 01:00:33,267
בואו ננעל את זה
לקומץ חברות בינה מלאכותית

1385
01:00:33,300 --> 01:00:35,970
מי יעשה זאת
בצורה בטוחה ומהימנה.

1386
01:00:36,003 --> 01:00:37,705
אבל אז אנשים דואגים

1387
01:00:37,738 --> 01:00:39,273
ריכוזים נמלטים
של עושר וכוח.

1388
01:00:39,306 --> 01:00:42,209
כאילו, מי היית סומך להיות
חזק פי מיליון

1389
01:00:42,243 --> 01:00:44,845
או עשיר מאשר
כל שחקן אחר בחברה?

1390
01:00:44,879 --> 01:00:46,881
למה אנחנו צריכים לסמוך עליך?

1391
01:00:46,914 --> 01:00:49,016
אממ, לא כדאי.

1392
01:00:49,049 --> 01:00:51,785
אבל כמובן, אם אתה עושה את זה,
זה נפתח

1393
01:00:51,819 --> 01:00:54,922
כל הסיכונים האלה של
סמכותיות ועריצות.

1394
01:00:54,955 --> 01:00:57,391
זה-זה בערך
חלום של סמכותי

1395
01:00:57,424 --> 01:01:00,861
יש AI בקופסה
שניתן ליישם ולהשתמש

1396
01:01:00,895 --> 01:01:03,430
למעקב בכל מקום.

1397
01:01:03,464 --> 01:01:05,933
כלומר, במובנים מסוימים,
סוג העולם

1398
01:01:05,966 --> 01:01:11,405
שאורוול דמיין ב<i>1984</i>
לא ריאלי,

1399
01:01:11,438 --> 01:01:13,841
אה, אלא אם כן יש לך AI.

1400
01:01:13,874 --> 01:01:16,443
אבל עם AI,
שלמעשה הוא ריאלי.

1401
01:01:16,477 --> 01:01:18,913
<i>עקוב אחר כל פעילות,</i>

1402
01:01:18,946 --> 01:01:22,316
<i>שיחות,</i>
<i>זיהוי פנים.</i>

1403
01:01:22,349 --> 01:01:26,921
מה שאני דואג הוא ש,
אה, הכלים האלה יכולים להגדיל,

1404
01:01:26,954 --> 01:01:29,023
אה, סוג של טוטליטריות

1405
01:01:29,056 --> 01:01:31,892
שזה חסכוני
וקבוע.

1406
01:01:33,060 --> 01:01:35,863
טריסטן האריס: <i>אז בתגובה</i>
<i>על כך, כמה אנשים אחרים אומרים,</i>

1407
01:01:35,896 --> 01:01:37,398
"לא, לא, לא, אנחנו צריכים
בעצם לתת לזה להיקרע.

1408
01:01:37,431 --> 01:01:39,934
"בואו נבזר את הכוח הזה
כמה שאפשר.

1409
01:01:39,967 --> 01:01:42,036
"בואו ניתן לכל עסק,
כל אדם,

1410
01:01:42,069 --> 01:01:44,238
"כל ילד בן 16,
כל מעבדת מדע,

1411
01:01:44,271 --> 01:01:46,473
אתה יודע, קבל את ההטבה
של דגמי הבינה המלאכותית העדכניים ביותר".

1412
01:01:46,508 --> 01:01:48,475
אבל עכשיו יש לך
כל קבוצת טרור,

1413
01:01:48,510 --> 01:01:52,112
כל אדם חסר זכויות
בעל הכוח לעשות

1414
01:01:52,146 --> 01:01:54,181
הגרוע ביותר
נשק ביולוגי.

1415
01:01:54,215 --> 01:01:56,050
תשתית פריצה,
יצירת זיופים עמוקים,

1416
01:01:56,083 --> 01:01:57,818
הצפה
סביבת המידע שלנו.

1417
01:01:57,851 --> 01:02:00,955
אז זה יוצר את כל הסיכונים האלה
סוג של פגיעה קטסטרופלית

1418
01:02:00,988 --> 01:02:03,257
ו-וקריסה חברתית
דרך הכיוון הזה.

1419
01:02:03,290 --> 01:02:05,092
וכך אנחנו די תקועים
בין הסלע הזה

1420
01:02:05,125 --> 01:02:08,229
ומקום קשה,
בין "נעל את זה..."

1421
01:02:08,262 --> 01:02:09,897
(פטפוט לא ברור)

1422
01:02:11,131 --> 01:02:12,900
-...או "תנו לזה להיקרע."
-(צפירות מייללות)

1423
01:02:12,933 --> 01:02:14,468
(אנשים צועקים)

1424
01:02:14,501 --> 01:02:18,038
אז אנחנו צריכים למצוא משהו
כמו שביל צר

1425
01:02:18,072 --> 01:02:20,774
שנמנע
שתי התוצאות השליליות הללו.

1426
01:02:20,808 --> 01:02:23,277
אז אם כל זה נכון,
למה שלא נאט את הקצב

1427
01:02:23,310 --> 01:02:26,380
ולהבין את כל זה
לפני שיהיה מאוחר מדי?

1428
01:02:26,413 --> 01:02:29,450
אם האנושות הייתה חכמה ביותר,

1429
01:02:29,483 --> 01:02:31,418
זה מה שהיינו עושים.

1430
01:02:31,452 --> 01:02:33,555
אבל יש, כאילו, משהו אחר
דרך להתמודד עם הדברים האלה, נכון?

1431
01:02:33,588 --> 01:02:36,457
שזה:
מהם כללי המשחק?

1432
01:02:36,490 --> 01:02:39,994
הרבה, כמו, מה שמנכ"לים עושים

1433
01:02:40,027 --> 01:02:42,429
מונע על ידי
התמריצים שעומדים בפניהם.

1434
01:02:42,463 --> 01:02:45,866
זה בעיקר
תמריצים למקסום רווחים

1435
01:02:45,899 --> 01:02:47,468
שנוהגים
הפיתוח של AI.

1436
01:02:47,501 --> 01:02:50,938
אפילו הטובים תקועים
בדילמה הזו של

1437
01:02:50,971 --> 01:02:53,107
אם הם נעים לאט מדי,

1438
01:02:53,140 --> 01:02:55,042
ואז הם עוזבים את עצמם
פגיע

1439
01:02:55,075 --> 01:02:57,478
לכל החבר'ה האחרים
שחותכים את כל הפינות.

1440
01:02:57,512 --> 01:03:02,316
כל החברות המובילות האלה נמצאות
מרוץ מוחלט ללא מעצורים

1441
01:03:02,349 --> 01:03:06,153
כדי, מהר ככל האפשר, לקבל
ל-AGI, בוא לשם מיד.

1442
01:03:06,186 --> 01:03:07,855
♪ ♪

1443
01:03:08,856 --> 01:03:10,924
לאדיש: <i>כן, אני מתכוון,</i>
<i>אני חושב כך, אני חושב</i>

1444
01:03:10,958 --> 01:03:13,460
זה כנראה מתחיל
עם DeepMind.

1445
01:03:13,494 --> 01:03:15,195
אשת חדשה:
<i>Google קונה</i>

1446
01:03:15,229 --> 01:03:16,930
<i>חברת בינה מלאכותית</i>
<i>טכנולוגיות DeepMind.</i>

1447
01:03:16,964 --> 01:03:18,932
<i>תנאי העסקה</i>
<i>לא נחשפו.</i>

1448
01:03:18,966 --> 01:03:21,168
אילון מאסק: <i>לארי פייג' ואני</i>
<i>בעבר היו חברים קרובים מאוד,</i>

1449
01:03:21,201 --> 01:03:23,170
<i>וזה התברר לי</i>

1450
01:03:23,203 --> 01:03:26,608
שלארי לא היה אכפת
על בטיחות בינה מלאכותית.

1451
01:03:26,641 --> 01:03:29,276
אמילי צ'אנג: אילון מאסק אמר
התחלת את OpenAI,

1452
01:03:29,310 --> 01:03:31,312
שניכם התחלתם את OpenAI כי
הוא פחד מגוגל.

1453
01:03:31,345 --> 01:03:32,614
לאדיש: <i>אתה-אתה בעצם</i>
<i>היה הבסיס</i>

1454
01:03:32,647 --> 01:03:34,181
<i>של OpenAI יוצאים מזה.</i>

1455
01:03:34,214 --> 01:03:35,482
"אז אנחנו נעשה את זה טוב יותר.
אנחנו הולכים לעשות את זה

1456
01:03:35,517 --> 01:03:37,818
<i>בצורה בטוחה יותר</i>
<i>או בצורה פתוחה יותר."</i>

1457
01:03:39,019 --> 01:03:41,055
אז זה מה שהתחיל את OpenAI.

1458
01:03:41,088 --> 01:03:43,357
וכך עכשיו, במקום
בעל פרויקט AGI אחד,

1459
01:03:43,390 --> 01:03:45,225
יש לך שני פרויקטים של AGI.

1460
01:03:45,259 --> 01:03:47,328
הדבר הכי גרוע שאפשר
זה יכול לקרות

1461
01:03:47,361 --> 01:03:50,097
הוא אם יש
מספר פרויקטים של AGI

1462
01:03:50,130 --> 01:03:52,266
נעשה על ידי אנשים שונים
שלא אוהבים אחד את השני

1463
01:03:52,299 --> 01:03:55,202
וכולם מתחרים
כדי להגיע ראשון ל-AGI.

1464
01:03:55,235 --> 01:03:57,338
זה יהיה הגרוע ביותר
דבר אפשרי שיכול לקרות,

1465
01:03:57,371 --> 01:04:00,407
כי זה אומר
שמי שהכי פחות בטוח,

1466
01:04:00,441 --> 01:04:03,477
מי שמקריב הכי הרבה
על בטיחות כדי להתקדם

1467
01:04:03,511 --> 01:04:05,446
יהיה האדם
שמגיע לשם ראשון.

1468
01:04:05,479 --> 01:04:08,248
-דניאל: זה בעצם
מה קורה, נכון? -כֵּן.

1469
01:04:08,282 --> 01:04:11,952
אתה ואחיך
באופן מפורסם עזב את OpenAI, אה,

1470
01:04:11,985 --> 01:04:13,320
<i>כדי להתחיל את Anthropic.</i>

1471
01:04:13,354 --> 01:04:15,422
רסקין: <i>ואז אנתרופי</i>
<i>התחיל בגלל</i>

1472
01:04:15,456 --> 01:04:18,258
כמה חוקרים
בתוך OpenAI אמר,

1473
01:04:18,292 --> 01:04:20,894
"אני רוצה לצאת
ולעשות זאת בצורה בטוחה יותר".

1474
01:04:20,928 --> 01:04:24,064
היית צריך משהו בנוסף
רק להגדיל את הדגמים,

1475
01:04:24,098 --> 01:04:26,233
שהוא יישור או בטיחות.

1476
01:04:26,266 --> 01:04:28,001
הנדריקס:
<i>"אנחנו אחראים יותר</i>

1477
01:04:28,035 --> 01:04:30,170
או אמין יותר
או מוסרי יותר."

1478
01:04:30,204 --> 01:04:32,072
עכשיו יש לך שלושה פרויקטים של AGI.

1479
01:04:32,106 --> 01:04:33,575
אבל גם לשבת
השולחן איתך

1480
01:04:33,608 --> 01:04:35,242
הולכים להיות חבורה של בינה מלאכותית.

1481
01:04:35,275 --> 01:04:38,078
לאדיש: <i>ועכשיו Meta is-is</i>
<i>מנסה לעשות דברים.</i>

1482
01:04:38,112 --> 01:04:40,114
בינתיים, מלאכותי חדש
מתחרה למודיעין

1483
01:04:40,147 --> 01:04:41,949
<i>הוכרז השבוע,</i>
<i>של אלון מאסק...</i>

1484
01:04:41,982 --> 01:04:45,119
HENDRYCKS: <i>xAI, אשר יהיה</i>
<i>הארגון של אילון מאסק.</i>

1485
01:04:45,152 --> 01:04:46,688
מאסק:
<i>אני לא סומך על OpenAI.</i>

1486
01:04:46,721 --> 01:04:48,489
המאבק בין
אילון מאסק ו-OpenAI

1487
01:04:48,523 --> 01:04:50,124
נכנס לסבב חדש.

1488
01:04:50,157 --> 01:04:52,192
אני לא סומך על סם אלטמן,
אה, ואני, ואני לא חושב

1489
01:04:52,226 --> 01:04:54,529
אנחנו רוצים לקבל את המרב
AI חזק בעולם

1490
01:04:54,562 --> 01:04:56,997
<i>נשלט על ידי מישהו</i>
<i>מי לא אמין.</i>

1491
01:04:57,030 --> 01:04:58,999
(רידוד ומחיאות כפיים)

1492
01:04:59,032 --> 01:05:02,136
התמריץ הוא
סכומי כסף לא ידועים.

1493
01:05:02,169 --> 01:05:04,004
-כֵּן.
- כוח לא סופר.

1494
01:05:04,037 --> 01:05:06,006
-כֵּן.
-אין שליטה.

1495
01:05:06,039 --> 01:05:08,409
אם יש לך משהו
זה פי מיליון יותר חכם

1496
01:05:08,442 --> 01:05:12,012
ומסוגל יותר מ
כל השאר על פני כדור הארץ

1497
01:05:12,045 --> 01:05:14,682
ולאף אחד אחר אין את זה,

1498
01:05:14,716 --> 01:05:16,551
הדבר הזה הוא התמריץ.

1499
01:05:16,584 --> 01:05:18,118
אז אתה שולט בעולם.

1500
01:05:19,153 --> 01:05:21,021
אם אתה באמת מאמין בזה,

1501
01:05:21,054 --> 01:05:23,223
אם אתה באמת בלב שלך
תאמין לזה,

1502
01:05:23,257 --> 01:05:24,526
אז אולי אתה
מוכן לקחת

1503
01:05:24,559 --> 01:05:26,460
די הרבה סיכון
לגרום לזה לקרות.

1504
01:05:26,493 --> 01:05:29,329
גוגל פרסמה זה עתה
דגם ה-AI החדש ביותר שלו.

1505
01:05:29,363 --> 01:05:31,699
התשובה ל-ChatGPT של OpenAI.

1506
01:05:31,733 --> 01:05:33,434
איך נגיע ל
זה עשרה טריליון?

1507
01:05:33,467 --> 01:05:35,502
האם NVIDIA הופכת להיות הכי
חברה בעלת ערך בארה"ב?

1508
01:05:35,537 --> 01:05:39,574
זה העסק הגדול ביותר
הזדמנות בהיסטוריה.

1509
01:05:39,607 --> 01:05:41,074
בהיסטוריה.

1510
01:05:41,108 --> 01:05:42,710
אז, הסיבה לכך
כולם ממש בהייפ

1511
01:05:42,744 --> 01:05:45,179
על בינה מלאכותית
כרגע

1512
01:05:45,212 --> 01:05:48,415
<i>זה בגלל</i>
<i>ככל שהחברות הללו יפיטו יותר</i>

1513
01:05:48,449 --> 01:05:50,417
<i>היכולות הפוטנציאליות</i>
<i>של הטכנולוגיה שלהם,</i>

1514
01:05:50,451 --> 01:05:53,555
<i>כמה שיותר השקעה</i>
<i>הם יכולים למשוך.</i>

1515
01:05:53,588 --> 01:05:55,222
קארל קווינטניה:
<i>אמזון משקיעה עד</i>

1516
01:05:55,255 --> 01:05:57,592
ארבעה מיליארד דולר
בסטארט-אפ Anthropic.

1517
01:05:57,625 --> 01:05:59,193
OpenAI קובעת את הכוונת

1518
01:05:59,226 --> 01:06:01,428
על חצי שובר קופות
שווי של טריליון דולר.

1519
01:06:01,462 --> 01:06:02,597
חצי טריליון!

1520
01:06:02,630 --> 01:06:03,731
המירוץ יוצא לדרך.

1521
01:06:03,765 --> 01:06:05,165
זה קורה
מהיר מתמיד.

1522
01:06:05,199 --> 01:06:07,167
האם אנחנו בתוך בועת AI?
כַּמוּבָן.

1523
01:06:07,201 --> 01:06:09,537
אני פשוט לא רואה
הבועה מתפוצצת

1524
01:06:09,571 --> 01:06:12,707
בזמן שעדיין יש לך
מחזור ההוצאות הגדול הזה.

1525
01:06:12,740 --> 01:06:15,409
רסקין: <i>גם אם אתה חושב</i>
<i>זה הכל הייפ,</i>

1526
01:06:15,442 --> 01:06:18,145
יש מיליארדים
לטריליוני דולרים

1527
01:06:18,178 --> 01:06:21,482
זורם לייצור מערכות בינה מלאכותית
חזק יותר.

1528
01:06:21,516 --> 01:06:24,351
וברגע שיש לך את הדבר הזה
זה חזק יותר,

1529
01:06:24,384 --> 01:06:25,753
<i>חברות יכולות להשתמש בזה</i>

1530
01:06:25,787 --> 01:06:27,755
<i>כדי להשיג רווחים גדולים יותר</i>
<i>וכדי להרוויח יותר כסף.</i>

1531
01:06:27,789 --> 01:06:30,491
<i>מדינות יכולות להשתמש בזה</i>
<i>כדי ליצור צבאות חזקות יותר.</i>

1532
01:06:30,525 --> 01:06:33,293
NVIDIA עקפה
מיקרוסופט ואפל

1533
01:06:33,327 --> 01:06:36,564
להיות של העולם
החברה היקרה ביותר.

1534
01:06:36,598 --> 01:06:39,399
המירוץ לפריסה הופך
המירוץ לפזיזות,

1535
01:06:39,433 --> 01:06:42,302
כי הם לא יכולים
לפרוס את זה כל כך מהר

1536
01:06:42,336 --> 01:06:43,538
וגם לעשות את זה נכון.

1537
01:06:43,571 --> 01:06:46,440
הם מאמינים בזה
הם החבר'ה הטובים.

1538
01:06:46,473 --> 01:06:49,611
"ואם אני לא אעשה את זה,
מישהו שאין לו

1539
01:06:49,644 --> 01:06:51,779
"ערכים טובים כמוני
ישב ליד השולחן

1540
01:06:51,813 --> 01:06:55,082
לקבל החלטות, אז
יש לי חובה לעשות את זה".

1541
01:06:55,115 --> 01:06:56,551
כן, זהו
אמונה נפוצה מאוד.

1542
01:06:56,584 --> 01:06:59,152
הרבה, הרבה, הרבה,
אולי רוב האנשים

1543
01:06:59,186 --> 01:07:01,255
בניית טכנולוגיה זו
להאמין בזה.

1544
01:07:01,288 --> 01:07:04,258
אני מודאג לגבי
התחרות המסחרית,

1545
01:07:04,291 --> 01:07:06,393
אבל מסתבר
אני אפילו יותר מודאג

1546
01:07:06,426 --> 01:07:08,428
התחרות הגיאופוליטית.

1547
01:07:08,462 --> 01:07:10,665
פיגרנו שמונה שנים
לפני שנה.

1548
01:07:10,698 --> 01:07:12,800
עכשיו אנחנו כנראה
בפיגור של פחות משנה.

1549
01:07:12,834 --> 01:07:16,236
ובכן, גם ערב הסעודית
ואיחוד האמירויות התחרו

1550
01:07:16,270 --> 01:07:18,673
להקמת מרכזי נתונים
ולמקם את עצמם

1551
01:07:18,706 --> 01:07:20,675
<i>ככוח הדומיננטי בבינה מלאכותית...</i>

1552
01:07:20,708 --> 01:07:22,710
...ליצור דרום קוריאה
מנהיג AI עולמי.

1553
01:07:22,744 --> 01:07:24,411
ג'וליה סיגר:
נשיא צרפת עמנואל מקרון

1554
01:07:24,444 --> 01:07:26,380
דיבר הרבה על
בינה מלאכותית...

1555
01:07:26,413 --> 01:07:27,715
עכשיו עם עוד על תפקידה של ישראל

1556
01:07:27,749 --> 01:07:29,817
בתחום הבינה המלאכותית
מהפכה...

1557
01:07:29,851 --> 01:07:33,487
מדינות יתחרו
עבור מי טכנולוגיות AI

1558
01:07:33,521 --> 01:07:35,355
ליצור את הדור הבא
של התעשייה.

1559
01:07:35,389 --> 01:07:38,626
הסינים מתעקשים
כי בינה מלאכותית,

1560
01:07:38,660 --> 01:07:40,360
כפי שמפותח בסין,

1561
01:07:40,394 --> 01:07:42,095
<i>לחזק את ערכי הליבה</i>

1562
01:07:42,129 --> 01:07:44,431
<i>של המפלגה הקומוניסטית הסינית</i>
<i>והמערכת הסינית.</i>

1563
01:07:44,464 --> 01:07:49,269
אמריקה צריכה לנצח את סין
במירוץ AI.

1564
01:07:49,303 --> 01:07:51,639
דניאל: של סין, כאילו,
שנות אור מאחור.

1565
01:07:51,673 --> 01:07:53,240
האם הם?

1566
01:07:53,273 --> 01:07:55,442
כלומר, יש להם הרבה יותר
נתוני אימון ממה שאנחנו עושים,

1567
01:07:55,475 --> 01:07:58,312
ואין שום דבר שאומר שהם
אל תפיל דוגמנית בחודש הבא

1568
01:07:58,345 --> 01:08:01,415
זה לא--
לא עולה בהרבה על GPT-4.

1569
01:08:01,448 --> 01:08:04,318
הכל הלך בסדר גמור.
מה יכול להשתבש?

1570
01:08:04,351 --> 01:08:07,254
-DeepSeek... (דובר סינית)
-DeepSeek... -DeepSeek...

1571
01:08:07,287 --> 01:08:08,455
יש דגם חדש.

1572
01:08:08,488 --> 01:08:11,325
אבל ממעבדה סינית
שנקרא DeepSeek.

1573
01:08:11,358 --> 01:08:14,428
בואו נדבר על DeepSeek,
כי זה מרגש,

1574
01:08:14,461 --> 01:08:18,231
וזה מטלטל את זה
כל הענף עד ליבו.

1575
01:08:18,265 --> 01:08:19,701
ממשל טראמפ
יבטיח

1576
01:08:19,734 --> 01:08:23,470
שהכי חזק
מערכות AI נבנות בארה"ב

1577
01:08:23,503 --> 01:08:27,174
עם עיצוב אמריקאי
וייצר שבבים.

1578
01:08:27,207 --> 01:08:29,343
בינה מלאכותית היא של סין
פרויקט אפולו.

1579
01:08:29,376 --> 01:08:30,745
<i>המפלגה הקומוניסטית הסינית</i>

1580
01:08:30,778 --> 01:08:32,179
<i>מבין לעומק את הפוטנציאל</i>

1581
01:08:32,212 --> 01:08:33,380
<i>כדי ש-AI ישבש לוחמה.</i>

1582
01:08:33,413 --> 01:08:35,650
גוגל כבר לא מבטיחה
שזה לא יהיה

1583
01:08:35,683 --> 01:08:38,886
להשתמש בבינה מלאכותית
לנשק או למעקב.

1584
01:08:38,920 --> 01:08:40,487
סין, צפון קוריאה, רוסיה

1585
01:08:40,521 --> 01:08:42,222
ימשיכו לבנות אותו
כמה שיותר מהר

1586
01:08:42,255 --> 01:08:44,792
<i>כדי לקבל יותר יתרון כלכלי,</i>
<i>יתרון פרודוקטיבי נוסף,</i>

1587
01:08:44,826 --> 01:08:47,361
<i>יתרון מדעי יותר,</i>
<i>יתרון צבאי נוסף,</i>

1588
01:08:47,394 --> 01:08:48,896
<i>כי בינה מלאכותית מייצרת כלי נשק טובים יותר.</i>

1589
01:08:48,930 --> 01:08:52,299
אם אתה מדבר על
מערכת רחבה ובעלת יכולת

1590
01:08:52,332 --> 01:08:53,635
כמדען מבריק,

1591
01:08:53,668 --> 01:08:58,271
ייתכן שהוא יוכל לרוץ
מערכה צבאית

1592
01:08:58,305 --> 01:09:01,743
טוב יותר מכל הגנרלים
בממשלת ארה"ב כרגע.

1593
01:09:01,776 --> 01:09:06,213
טייוואן היא הבעיה שיוצרת
הכי מתח כרגע

1594
01:09:06,246 --> 01:09:08,382
בין בייג'ין לארה"ב.

1595
01:09:08,415 --> 01:09:10,918
יש א-א ישיר
אי הסכמה אופוזיציונית

1596
01:09:10,952 --> 01:09:12,452
<i>בין ארה"ב לסין</i>

1597
01:09:12,486 --> 01:09:14,454
<i>על האם טייוואן היא</i>
<i>חלק מסין.</i>

1598
01:09:14,488 --> 01:09:18,926
מת'ני: <i>טייוואן חשובה</i>
<i>מכל כך הרבה סיבות.</i>

1599
01:09:18,960 --> 01:09:20,828
זה גם הבית של

1600
01:09:20,862 --> 01:09:24,565
כ-90% מהשבב המתקדם
ייצור לעולם,

1601
01:09:24,599 --> 01:09:28,903
<i>מה שאומר שהאספקה</i>
<i>שרשרת עבור מחשוב מתקדם</i>

1602
01:09:28,936 --> 01:09:31,506
<i>נמצא בסיכון אם יהיה</i>

1603
01:09:31,539 --> 01:09:33,440
<i>איזשהו תרחיש</i>
<i>סביב טייוואן,</i>

1604
01:09:33,473 --> 01:09:37,712
<i>האם מדובר במצור</i>
<i>או פלישה של סין.</i>

1605
01:09:38,311 --> 01:09:40,948
הנדריקס:
<i>האם אנחנו הולכים להיות במירוץ כלשהו</i>

1606
01:09:40,982 --> 01:09:45,853
בין ארה"ב לסין
שבסופו של דבר מתגלגל ל

1607
01:09:45,887 --> 01:09:49,891
<i>מרוץ חימוש בינה מלאכותית צבאית ו</i>
<i>אתם יודעים, הפניות פוטנציאליות</i>

1608
01:09:49,924 --> 01:09:51,659
<i>לסכסוך כוח גדול?</i>

1609
01:09:51,693 --> 01:09:53,493
NICK SCHIFRIN: <i>היוצא</i>
<i>מפקד צבא ארה"ב העליון</i>

1610
01:09:53,528 --> 01:09:56,396
<i>באזור</i>
<i>חזו מלחמה בפתח.</i>

1611
01:09:56,430 --> 01:09:58,432
אני חושב שהאיום ברור
במהלך העשור הזה,

1612
01:09:58,465 --> 01:09:59,967
למעשה, בשש השנים הבאות.

1613
01:10:00,001 --> 01:10:01,769
מת'ני:
<i>אה, אחד מהתרחישים</i>

1614
01:10:01,803 --> 01:10:06,406
שאני דואג לגביו הוא
מלחמת פלאש סייבר,

1615
01:10:06,440 --> 01:10:11,445
<i>אממ, אחד שבו</i>
<i>כלי סייבר שהם אוטונומיים</i>

1616
01:10:11,478 --> 01:10:13,447
<i>מתחרים זה בזה</i>

1617
01:10:13,480 --> 01:10:15,248
בדרכים שהן הסלמות

1618
01:10:15,282 --> 01:10:17,317
בלי
שליטה אנושית משמעותית.

1619
01:10:19,386 --> 01:10:20,755
הררי:
<i>אתה חי באזור מלחמה,</i>

1620
01:10:20,788 --> 01:10:24,357
זו תהיה החלטה של AI
אם להפציץ את הבית שלך

1621
01:10:24,391 --> 01:10:26,326
<i>ואם להרוג אותך.</i>

1622
01:10:26,359 --> 01:10:27,995
בואו נחליט מהמכונה.

1623
01:10:28,029 --> 01:10:29,731
<i>זה הפיתוי.</i>

1624
01:10:29,764 --> 01:10:32,867
<i>לכן AI כל כך מפתה</i>
<i>כדי לאמץ צבאות,</i>

1625
01:10:32,900 --> 01:10:36,003
<i>ליצור כלי נשק אוטונומיים,</i>
<i>כי אם אתחיל להאמין</i>

1626
01:10:36,037 --> 01:10:39,607
<i>שהיריב הצבאי שלי</i>
<i>יאמץ AI,</i>

1627
01:10:39,640 --> 01:10:42,375
<i>זה יהיה מירוץ למי יכול</i>
<i>לחץ על ההדק מהר יותר.</i>

1628
01:10:42,409 --> 01:10:45,445
וזה שעושה אוטומציה
ההחלטה הזו,

1629
01:10:45,479 --> 01:10:47,615
במקום שיש
בן אדם בלולאה,

1630
01:10:47,648 --> 01:10:49,817
הוא האחד
שינצח במלחמה הזו.

1631
01:10:49,851 --> 01:10:51,284
ואם חושבים על

1632
01:10:51,318 --> 01:10:53,755
מרוץ החימוש הגרעיני
בשנות הארבעים...

1633
01:10:54,689 --> 01:10:56,891
...אתה מכיר את הגרמנים
עובדים על הפצצה,

1634
01:10:56,924 --> 01:11:01,361
אז זה לא כל כך קל לדעת
רוברט אופנהיימר אז,

1635
01:11:01,394 --> 01:11:04,031
"אה, אתה יודע, לאט."

1636
01:11:04,065 --> 01:11:05,900
אז אחרי שצפיתי בסרט הזה,
זה יהיה מבלבל,

1637
01:11:05,933 --> 01:11:07,300
כי אתה הולך לחזור,

1638
01:11:07,334 --> 01:11:08,736
ומחר
אתה הולך להשתמש ב-ChatGPT,

1639
01:11:08,770 --> 01:11:10,772
וזה הולך להיות
מועיל בצורה שלא תיאמן.

1640
01:11:10,805 --> 01:11:12,974
וגם אני אשתמש בזה, ו
זה יעזור להפליא.

1641
01:11:13,007 --> 01:11:16,611
ואתה תגיד, "רגע, אז
בדיוק ראיתי את הסרט הזה על AI

1642
01:11:16,644 --> 01:11:18,513
"וסיכון קיומי
וכל הדברים האלה,

1643
01:11:18,546 --> 01:11:20,915
ואיפה שוב האיום?"

1644
01:11:20,948 --> 01:11:24,986
וזה לא ש-ChatGPT כן
האיום הקיומי.

1645
01:11:25,019 --> 01:11:29,322
זה המירוץ לפריסה
הכי חזק,

1646
01:11:29,356 --> 01:11:32,093
בלתי ניתן לבירור,
טכנולוגיה בלתי נשלטת,

1647
01:11:32,126 --> 01:11:35,630
מתחת לגרוע מכל
תמריצים אפשריים,

1648
01:11:35,663 --> 01:11:37,732
זה האיום הקיומי.

1649
01:11:38,398 --> 01:11:40,935
דניאל:
אבל זה מפתיע אותי ש-זה

1650
01:11:40,968 --> 01:11:43,671
אנחנו בהקשר של גזע.

1651
01:11:43,704 --> 01:11:46,473
-SUTSKEVER: כן.
-וזה בתחרות,

1652
01:11:46,507 --> 01:11:48,109
"צריך להגיע לשם קודם,
צריך לנצח במירוץ" הגדרה,

1653
01:11:48,142 --> 01:11:49,544
"צריך להתחרות מול סין,

1654
01:11:49,577 --> 01:11:50,945
צריך להתחרות נגד
שאר המעבדות".

1655
01:11:50,978 --> 01:11:52,412
נכון?

1656
01:11:52,445 --> 01:11:54,115
היום זה המצב.

1657
01:11:54,148 --> 01:11:57,552
אז אנחנו צריכים לשנות
הדינמיקה של הגזע הזה.

1658
01:11:58,519 --> 01:12:00,487
אתה לא חושב?

1659
01:12:00,521 --> 01:12:02,857
אני חושב שזה יהיה
אכן טוב מאוד.

1660
01:12:04,158 --> 01:12:06,928
אני-אני חושב
יש איזשהו...

1661
01:12:06,961 --> 01:12:10,064
מיסטיקה סביב AI
שגורם לזה להרגיש כמו

1662
01:12:10,097 --> 01:12:11,999
זה נפל מהשמים.

1663
01:12:12,033 --> 01:12:14,001
דניאל: חושב על זה
כטכנולוגיה דמוית אלוהים

1664
01:12:14,035 --> 01:12:15,970
מהווה בעיה.

1665
01:12:16,003 --> 01:12:17,672
כֵּן.

1666
01:12:18,773 --> 01:12:20,473
מַדוּעַ?

1667
01:12:20,508 --> 01:12:23,544
זה נותן רישיון
לחברות כדי...

1668
01:12:23,578 --> 01:12:26,714
(צוחק)
לא לקחת אחריות

1669
01:12:26,747 --> 01:12:31,418
על הדברים שהתוכנה
שהם בנו כן.

1670
01:12:31,451 --> 01:12:35,590
אם אנשים יצרו את הקשר הזה,

1671
01:12:35,623 --> 01:12:37,859
אולי זה יהיה, כאילו,
לעזור להם להבין שוב

1672
01:12:37,892 --> 01:12:42,462
הדינמיקה של
כל הכסף והכוח ו...

1673
01:12:42,495 --> 01:12:45,933
כאוס שקורה ל...

1674
01:12:45,967 --> 01:12:47,602
ליצור את הטכנולוגיה הזו.

1675
01:12:47,635 --> 01:12:49,737
זה, כאילו, חמישה בחורים
מי שולט בזה, נכון?

1676
01:12:49,770 --> 01:12:52,139
-כמו, חמישה גברים?
-בעיקרון, כן.

1677
01:12:52,173 --> 01:12:54,642
-המנכ"לים?
-כֵּן.

1678
01:12:54,675 --> 01:12:55,977
בְּסֵדֶר.

1679
01:12:57,178 --> 01:12:59,580
♪ ♪

1680
01:13:01,616 --> 01:13:03,618
דניאל:
<i>לפעמים זה מרגיש כמו</i>

1681
01:13:03,651 --> 01:13:07,755
<i>הייתי בזה</i>
<i>פשוט, כאילו, מסע אינסופי</i>

1682
01:13:07,788 --> 01:13:09,757
<i>לנסות להבין זאת.</i>

1683
01:13:09,790 --> 01:13:12,994
אתה יודע, כאילו
אני מטפס על הר...

1684
01:13:15,930 --> 01:13:19,634
<i>...ובכל פעם</i>
<i>אני, כאילו, עולה על גבעה,</i>

1685
01:13:19,667 --> 01:13:21,035
<i>אני חושב שהגעתי לפסגה,</i>

1686
01:13:21,068 --> 01:13:24,005
<i>אבל זה פשוט ממשיך</i>
<i>והולך והולך.</i>

1687
01:13:24,038 --> 01:13:25,072
(מצלמה מקליקה, שוט)

1688
01:13:25,106 --> 01:13:27,174
אבל מכל מה ששמעתי,

1689
01:13:27,208 --> 01:13:30,778
אם הייתי צריך לנחש מה
בראש הר החרדה,

1690
01:13:30,811 --> 01:13:34,682
<i>אלה חמשת המנכ"לים האלה</i>
<i>מחמש החברות הללו,</i>

1691
01:13:34,715 --> 01:13:37,952
שהם סוג של כמו
אופנהיימרים של הרגע הזה.

1692
01:13:37,985 --> 01:13:40,054
אלה החבר'ה
שבונים את הדבר הזה.

1693
01:13:40,087 --> 01:13:41,454
כֵּן.

1694
01:13:41,488 --> 01:13:44,659
כאילו, יש תוכנית?

1695
01:13:44,692 --> 01:13:46,827
ראש החברה
זה עושה את ChatGPT

1696
01:13:46,861 --> 01:13:50,531
הזהיר מפני אפשרי
פגיעה משמעותית בעולם.

1697
01:13:50,564 --> 01:13:53,000
אני חושב, אם הטכנולוגיה הזו
משתבש,

1698
01:13:53,034 --> 01:13:54,068
זה יכול להשתבש לגמרי.

1699
01:13:54,101 --> 01:13:56,237
(פרצי פטפוט ברורים)

1700
01:13:56,270 --> 01:13:58,072
דניאל:
<i>חמישה בחורים.</i>

1701
01:13:58,105 --> 01:14:01,943
אני אף פעם לא חשבתי עלינו
כחברת מדיה חברתית.

1702
01:14:01,976 --> 01:14:06,814
זה מרגיש כאילו אני חייב לנסות
ו-ותמצא את החבר'ה האלה...

1703
01:14:06,847 --> 01:14:07,515
ממ-הממ.

1704
01:14:07,548 --> 01:14:09,784
...ולהכניס אותם לסרט.

1705
01:14:10,584 --> 01:14:13,554
בטח שנקבל
קצת בהירות מזה.

1706
01:14:14,188 --> 01:14:15,723
(מצלמה מקליקה, שוט)

1707
01:14:16,590 --> 01:14:19,860
<i>כלומר, הכסף חייב להיפסק</i>
<i>איפשהו, נכון?</i>

1708
01:14:19,894 --> 01:14:21,862
(שורקת הרוח)

1709
01:14:21,896 --> 01:14:23,731
♪ ♪

1710
01:14:24,398 --> 01:14:26,734
(כלים מסתובבים ולוחצים)

1711
01:14:27,668 --> 01:14:29,870
(משששש)

1712
01:14:34,608 --> 01:14:35,810
דניאל:
איך זה מרגיש?

1713
01:14:35,843 --> 01:14:38,212
-גָדוֹל.
-זה בסדר?

1714
01:14:38,245 --> 01:14:39,847
-כֵּן.
-(פטפוט צוות לא ברור)

1715
01:14:39,880 --> 01:14:41,582
-האם אני יכול להזיז את המושב קדימה?
-דניאל: כן, אתה יכול.

1716
01:14:41,615 --> 01:14:42,717
זה, אה, זה פשוט
קצת מביך.

1717
01:14:42,750 --> 01:14:43,985
אני קצת, כאילו...

1718
01:14:44,018 --> 01:14:45,619
דריו, איך אתה מרגיש
על הכיסא הזה?

1719
01:14:45,653 --> 01:14:47,588
אה, כן, הכיסא טוב.

1720
01:14:47,621 --> 01:14:49,290
רק רציתי להעביר את זה
קצת קדימה. -בְּסֵדֶר.

1721
01:14:49,323 --> 01:14:51,125
בחרתי את הכיסא הזה.

1722
01:14:51,158 --> 01:14:52,727
-זה כיסא טוב.
-תוֹדָה.

1723
01:14:52,760 --> 01:14:54,562
(טלפון סלולרי מצלצל)

1724
01:14:58,332 --> 01:15:00,500
TED:
ופשוט לשבת שם.

1725
01:15:02,036 --> 01:15:03,104
ואז דרך כאן,

1726
01:15:03,137 --> 01:15:05,006
אנחנו נסתכל אחד על השני
דרך הכוס הזו.

1727
01:15:05,039 --> 01:15:07,074
(אותות תפוס מצפצף)

1728
01:15:11,879 --> 01:15:13,948
ומתיישב לאחור בכיסא,
רוכן קדימה?

1729
01:15:13,981 --> 01:15:15,683
-דניאל: כן. ובכן, מה שלא יהיה
נוח, אני חושב. -בְּסֵדֶר.

1730
01:15:15,716 --> 01:15:17,018
זה די מגניב.
יש חבורה של מראות.

1731
01:15:17,051 --> 01:15:18,285
-האם זה-- בסדר.
-אישה: סם א', קח אחד. סִימָן.

1732
01:15:18,319 --> 01:15:19,920
-איך זה?
-טוֹב. תודה לך.

1733
01:15:19,954 --> 01:15:21,622
דניאל: בראשית
של הפרויקט הזה זה שהייתי

1734
01:15:21,655 --> 01:15:23,290
יושב בבית,
ושיחקתי עם,

1735
01:15:23,324 --> 01:15:24,859
אני חושב, מחולל התמונות שלך,

1736
01:15:24,892 --> 01:15:27,762
והייתי בו זמנית,
אה, מבועת

1737
01:15:27,795 --> 01:15:29,897
-וממש התרשמתי.
-(מצחקק בשקט)

1738
01:15:29,930 --> 01:15:32,333
-זה השילוב הרגיל.
-ואז לחתוך ל

1739
01:15:32,366 --> 01:15:35,002
אשתי ואני מגלים
אנחנו מצפים.

1740
01:15:35,036 --> 01:15:38,773
ו-ויש לי, כאילו
משבר קיומי

1741
01:15:38,806 --> 01:15:40,775
כמו שאשתי
בחודש השישי להריון.

1742
01:15:40,808 --> 01:15:43,577
ואני חושב שהשאלה הראשונה שלי,
שאני שואל את כולם:

1743
01:15:43,611 --> 01:15:46,080
עכשיו זו תקופה נוראית
להביא ילד לעולם?

1744
01:15:46,113 --> 01:15:47,848
האם אני עושה טעות גדולה?

1745
01:15:47,882 --> 01:15:49,650
אני מצפה לילד
גם במרץ. הראשון שלי.

1746
01:15:49,683 --> 01:15:50,918
-אתה מצפה לילד?
-כֵּן.

1747
01:15:50,951 --> 01:15:52,319
-אתה מצפה במרץ?
-ילד ראשון.

1748
01:15:52,353 --> 01:15:53,788
-מזל טוב.
-תודה רבה.

1749
01:15:53,821 --> 01:15:54,922
מעולם לא התרגשתי כל כך
לכל דבר.

1750
01:15:54,955 --> 01:15:57,091
-ככה אני מרגיש.
-כֵּן.

1751
01:15:57,124 --> 01:15:58,759
אבל אתה לא מפחד?

1752
01:15:58,793 --> 01:16:03,064
אני מתכוון, כאילו, להביא ילד לעולם
רק הדבר החשוב הזה

1753
01:16:03,097 --> 01:16:05,633
שאני, אתה יודע,
אני נשאר ער כל לילה, כאילו,

1754
01:16:05,666 --> 01:16:07,334
לקרוא את הספרים האלה על
איך לגדל ילד,

1755
01:16:07,368 --> 01:16:08,769
ואני מקווה
אני הולך לעשות עבודה טובה,

1756
01:16:08,803 --> 01:16:09,804
וזה מרגיש
מאוד מכריע ו--

1757
01:16:09,837 --> 01:16:12,673
אבל אני לא מפחד...

1758
01:16:12,706 --> 01:16:14,675
לילדים לגדול
בעולם עם AI.

1759
01:16:14,708 --> 01:16:16,811
כאילו, זה... זה יהיה בסדר.

1760
01:16:16,844 --> 01:16:19,280
זה טוב לשמוע
מגיע מהבחור.

1761
01:16:19,313 --> 01:16:21,082
אני חושב שזה רעיון נפלא
להביא ילדים לעולם.

1762
01:16:21,115 --> 01:16:23,784
אני-אני חושב שהם הכי
דבר קסום, מדהים.

1763
01:16:23,818 --> 01:16:25,820
-(נאנח בכבדות)
-יש כל כך הרבה אי ודאות,

1764
01:16:25,853 --> 01:16:27,188
כמעט פשוט הייתי עושה
מה אתה הולך לעשות בכל מקרה.

1765
01:16:27,221 --> 01:16:29,223
אני יודע שזה לא
תשובה מספקת מאוד,

1766
01:16:29,256 --> 01:16:32,359
אבל זה היחיד
אני יכול להמציא.

1767
01:16:32,393 --> 01:16:34,929
הילדים שלנו לעולם לא...

1768
01:16:34,962 --> 01:16:37,331
להכיר עולם שאין לו
AI מתקדם באמת.

1769
01:16:37,364 --> 01:16:40,167
למעשה, הילדים שלנו לעולם לא יצליחו
להיות חכם יותר מבינה מלאכותית.

1770
01:16:40,201 --> 01:16:42,703
דניאל: "הילדים שלנו יעשו זאת
לעולם אל תהיה חכם יותר מבינה מלאכותית"?

1771
01:16:42,736 --> 01:16:44,839
ובכן, מתוך גלם,
מנקודת משכל גולמית,

1772
01:16:44,872 --> 01:16:46,807
הם לעולם לא יהיו
חכם יותר מבינה מלאכותית.

1773
01:16:46,841 --> 01:16:48,309
הרעיון הזה לא
לעצבן אותך קצת?

1774
01:16:48,342 --> 01:16:51,712
כי זה גורם לי להרגיש
קצת בחילה בצורה מוזרה.

1775
01:16:51,745 --> 01:16:55,316
אממ, זה מרגיז אותי
קצת.

1776
01:16:55,349 --> 01:16:56,817
אבל זו המציאות.

1777
01:16:56,851 --> 01:16:58,819
דניאל:
אוקיי, אז דינמיקת מירוץ.

1778
01:16:58,853 --> 01:17:01,655
יש לנו חבורה של אנשים
שכולם מסכימים

1779
01:17:01,689 --> 01:17:03,190
שזה מפחיד.

1780
01:17:03,224 --> 01:17:05,126
בהתבסס על לוחות הזמנים ש
הרבה אנשים נתנו לי,

1781
01:17:05,159 --> 01:17:07,661
יש לנו בין חודשיים ו
חמש שנים להבין את זה.

1782
01:17:07,695 --> 01:17:09,063
-כֵּן.
-ו-ו, אני מניח,

1783
01:17:09,096 --> 01:17:13,767
השאלה הכי גדולה שלי היא:
למה אנחנו לא יכולים פשוט להפסיק?

1784
01:17:14,768 --> 01:17:19,340
הבעיה עם, אה, אה,
"רק לעצור" זה, אממ,

1785
01:17:19,373 --> 01:17:22,776
יש הרבה הרבה קבוצות עכשיו
מסביב לעולם, אה, אה,

1786
01:17:22,810 --> 01:17:26,113
לבנות את זה, עבור
מדינות רבות, חברות רבות,

1787
01:17:26,147 --> 01:17:28,749
אה, הכל עם
מניעים שונים.

1788
01:17:28,782 --> 01:17:31,152
יש כמה
החברות הללו במרחב הזה

1789
01:17:31,185 --> 01:17:34,455
מי העמדה שלהם, "אנחנו רוצים
לפתח את הטכנולוגיה הזו

1790
01:17:34,488 --> 01:17:36,323
הכי מהר שאפשר".

1791
01:17:36,357 --> 01:17:40,694
ואפילו אם נוכל להעביר חוקים
בארה"ב ובאירופה,

1792
01:17:40,728 --> 01:17:42,897
אנחנו צריכים לשכנע...

1793
01:17:42,930 --> 01:17:45,266
שי ג'ינפינג ולדימיר פוטין
או, אתה יודע,

1794
01:17:45,299 --> 01:17:47,968
מי שהוא מדעי
היועצים בצד שלהם.

1795
01:17:48,002 --> 01:17:49,837
זה יהיה ממש קשה.

1796
01:17:49,870 --> 01:17:51,238
אני חושב שזה נכון

1797
01:17:51,272 --> 01:17:54,041
שאם שני אנשים הם
בדיוק באותו מקום,

1798
01:17:54,074 --> 01:17:56,410
אה, זה שמוכן לקחת
קיצורי דרך נוספים בנושא בטיחות

1799
01:17:56,443 --> 01:17:58,746
צריך סוג של
"תגיע לשם קודם."

1800
01:17:58,779 --> 01:18:01,715
אה, אבל...

1801
01:18:01,749 --> 01:18:03,284
אנחנו יכולים להשתמש בהובלה שלנו

1802
01:18:03,317 --> 01:18:06,720
לבלות הרבה יותר זמן
עושה בדיקות בטיחות.

1803
01:18:06,754 --> 01:18:08,455
דניאל:
ומה אם תאבד את זה?

1804
01:18:08,489 --> 01:18:10,057
אתה מקבל את השיחה
ואתה מגלה

1805
01:18:10,090 --> 01:18:12,092
שאתה עכשיו, נניח,
שישה חודשים מאחור.

1806
01:18:12,126 --> 01:18:14,828
-מה-מה קורה אז?
-תלוי למי אנחנו מאחור.

1807
01:18:14,862 --> 01:18:17,364
אם זה, כאילו,
ממשלה יריבה,

1808
01:18:17,398 --> 01:18:19,200
זה כנראה ממש גרוע.

1809
01:18:19,233 --> 01:18:21,902
אז נניח שאתה מקבל את השיחה
שלסין יש,

1810
01:18:21,936 --> 01:18:25,172
יש באופן רקורסיבי
סוכן לשיפור עצמי

1811
01:18:25,206 --> 01:18:27,808
או משהו כזה שאנחנו
צריך לדאוג באמת.

1812
01:18:27,841 --> 01:18:30,010
מה עושים-- מה-מה קורה?

1813
01:18:31,478 --> 01:18:33,113
אממ...

1814
01:18:35,950 --> 01:18:37,484
המקרה הזה ידרוש...

1815
01:18:37,519 --> 01:18:41,088
הצעד הראשון יהיה
לדבר עם ממשלת ארה"ב.

1816
01:18:41,121 --> 01:18:43,457
סם, האם אתה סומך על
יכולתה של הממשלה להתמודד

1817
01:18:43,490 --> 01:18:45,292
משהו כזה?

1818
01:18:46,427 --> 01:18:48,162
כן, אני כן, למעשה.

1819
01:18:48,195 --> 01:18:50,030
יש דברים אחרים שאני לא
לסמוך על הממשלה שתטפל,

1820
01:18:50,064 --> 01:18:51,832
אבל התרחיש המסוים הזה,
אני חושב שהם ידעו...

1821
01:18:51,865 --> 01:18:53,167
הם-הם-- כן.

1822
01:18:53,200 --> 01:18:54,969
דניאל: כשיש לך,
כמו, דיונים פרטיים

1823
01:18:55,002 --> 01:18:56,937
עם החבר'ה האחרים שלהם
האצבעות על ההדק,

1824
01:18:56,971 --> 01:19:00,241
כביכול, אממ
לעשות את הדיונים הפרטיים האלה

1825
01:19:00,274 --> 01:19:01,875
למלא אותך בביטחון

1826
01:19:01,909 --> 01:19:03,545
או שהם עושים אותך,
אה, יותר מודאג?

1827
01:19:03,578 --> 01:19:07,414
תראה, אני מתכוון, אני-אני מכיר כמה
מהם טוב יותר מאחרים.

1828
01:19:07,448 --> 01:19:10,417
אממ, יש לי יותר ביטחון עצמי
בחלקם יותר ממה שיש לי

1829
01:19:10,451 --> 01:19:12,920
באחרים, אתה יודע,
כמו עם, כמו עם כל עם.

1830
01:19:12,953 --> 01:19:14,388
אתה יודע,
אתה חושב על, אתה יודע,

1831
01:19:14,421 --> 01:19:16,223
הילדים בבית הספר התיכון שלך
כיתה או משהו, נכון?

1832
01:19:16,257 --> 01:19:18,526
אתה יודע, כמה מהם הם,
אתה יודע, ממש מתוק.

1833
01:19:18,560 --> 01:19:20,961
לחלקם יש כוונות טובות
אבל לא כל כך יעיל.

1834
01:19:20,995 --> 01:19:22,930
חלק מהם הם,
אתה יודע, בריונים.

1835
01:19:22,963 --> 01:19:24,198
חלק מהם כן
אנשים ממש רעים.

1836
01:19:24,231 --> 01:19:26,300
(גמגמים)
אתה-אתה ממש,

1837
01:19:26,333 --> 01:19:27,535
אתה באמת רואה את ההתפשטות.

1838
01:19:27,569 --> 01:19:29,236
אתה יודע, האם אני, האם אני,
האם אני בטוח בעצמי

1839
01:19:29,270 --> 01:19:31,071
שכולם יעשו
הדבר הנכון,

1840
01:19:31,105 --> 01:19:32,540
שהכל יסתדר?

1841
01:19:32,574 --> 01:19:34,241
אממ לא, אני לא.

1842
01:19:34,275 --> 01:19:36,010
ויש-אין כלום
אני יכול לעשות עם זה, נכון?

1843
01:19:36,043 --> 01:19:38,379
אתה יודע, כל מה שאני יכול לעשות
הוא-זה דחיפה עבור,

1844
01:19:38,412 --> 01:19:39,813
לדחוף עבור, אתה יודע,

1845
01:19:39,847 --> 01:19:41,181
לדחוף לממשלה
להסתבך.

1846
01:19:41,215 --> 01:19:43,150
אבל בסופו של דבר אני סתם
גם שם אדם אחד.

1847
01:19:43,183 --> 01:19:44,586
זה--
זה-זה תלוי בכולנו

1848
01:19:44,619 --> 01:19:46,353
לדחוף לממשלה
להסתבך.

1849
01:19:46,387 --> 01:19:49,023
זה הדבר מספר אחד
את זה אני חושב שאנחנו צריכים לעשות

1850
01:19:49,056 --> 01:19:51,292
ל-to, אתה יודע, לקבוע דברים
בכיוון הנכון.

1851
01:19:51,325 --> 01:19:53,160
מה גורם לי לחרדות
על זה הוא, כאילו,

1852
01:19:53,193 --> 01:19:56,463
המציאות הבסיסית שה
המהירות שבה הטכנולוגיה

1853
01:19:56,497 --> 01:19:58,966
מתרבה וגדל
הוא אקספוננציאלי,

1854
01:19:58,999 --> 01:20:02,002
והמנגנונים לחקיקה
בני 300,

1855
01:20:02,036 --> 01:20:03,304
-לקחת לנצח.
-כֵּן.

1856
01:20:03,337 --> 01:20:05,573
אממ, אני-אני חושב
זה הולך להיות טרמפ כבד.

1857
01:20:05,607 --> 01:20:07,274
אני-אני בהחלט מסכים
איתך על זה.

1858
01:20:07,308 --> 01:20:09,276
דניאל: אתה יודע,
מה שאני ממש מחפש

1859
01:20:09,310 --> 01:20:11,513
הוא-זה כמו,
"הנה צעדים שכמו,

1860
01:20:11,546 --> 01:20:15,449
"חונכי הראש הולכים
בצע כדי להתמקד בבטיחות,

1861
01:20:15,482 --> 01:20:18,586
כדי להפחית את הסכנה
ולמקסם את ההבטחה".

1862
01:20:18,620 --> 01:20:20,588
ואני לא,
אני לא, אני לא יודע

1863
01:20:20,622 --> 01:20:22,423
שיש
תשובה פשוטה לכך.

1864
01:20:22,456 --> 01:20:24,091
אממ...

1865
01:20:26,360 --> 01:20:28,262
זאת אומרת, זה אולי זה
פשוט מדי,

1866
01:20:28,295 --> 01:20:30,632
אבל אתה...

1867
01:20:30,665 --> 01:20:32,333
ליצור דגם חדש,

1868
01:20:32,366 --> 01:20:35,202
אתה לומד ובודק את זה
בזהירות רבה.

1869
01:20:35,235 --> 01:20:37,871
אתה מכבה את זה
אל העולם בהדרגה,

1870
01:20:37,905 --> 01:20:40,074
ואז, יותר ויותר,
אתה מבין

1871
01:20:40,107 --> 01:20:41,875
אם זה בטוח או לא,
ואז אם כן,

1872
01:20:41,909 --> 01:20:43,377
אתה יכול לעשות את הצעד הבא.

1873
01:20:44,445 --> 01:20:47,414
זה לא נשמע כל כך צעקני
כמו, כמו, מדען מבריק

1874
01:20:47,448 --> 01:20:50,652
מעלה רעיון אחד ב-a
מעבדה ליצור מערכת בינה מלאכותית, כמו,

1875
01:20:50,685 --> 01:20:54,355
בטוח לחלוטין וניתן לשליטה
וכל השאר,

1876
01:20:54,388 --> 01:20:56,190
אבל זה מה שאני מאמין
הולך לקרות.

1877
01:20:56,223 --> 01:20:57,559
כאילו, זו הדרך
אני חושב שזה עובד.

1878
01:20:57,592 --> 01:20:59,561
אבל בוא נגיד
משהו נורא קורה,

1879
01:20:59,594 --> 01:21:02,429
כמו דוגמנית משתחררת
או הולך לנוכל או משהו.

1880
01:21:02,463 --> 01:21:04,031
יש פרוטוקול?

1881
01:21:04,064 --> 01:21:06,266
כאילו, תרתי משמע,
אני מדמיינת טלפון אדום.

1882
01:21:06,300 --> 01:21:07,635
-כֵּן.
-סליחה שחשבתי על זה

1883
01:21:07,669 --> 01:21:09,103
מבחינת סרטים, אבל כמו...

1884
01:21:09,136 --> 01:21:10,371
יש פרוטוקול.

1885
01:21:10,404 --> 01:21:12,039
-האם יש טלפון אדום
על השולחן שלך? -לֹא.

1886
01:21:12,072 --> 01:21:13,508
(צוחק):
האם זה סוד?

1887
01:21:13,541 --> 01:21:15,643
אני מתכוון, אה, לא, זה לא,
זה לא כל כך מפואר או דרמטי

1888
01:21:15,677 --> 01:21:17,512
כמו שאתה, כאילו, היית מקווה,
אבל יש, כאילו, אתה יודע--

1889
01:21:17,545 --> 01:21:19,279
חשבנו, כאילו
התרחישים האלה,

1890
01:21:19,313 --> 01:21:21,081
ואם זה יקרה,
אנחנו נתקשר לאנשים האלה

1891
01:21:21,115 --> 01:21:22,349
לפי הסדר הזה ולעשות זאת

1892
01:21:22,383 --> 01:21:24,017
וסוג של לעשות
החלטות אלה אם, כמו--

1893
01:21:24,051 --> 01:21:26,387
אני כן מאמין בזה
כשיש לך הזדמנות

1894
01:21:26,420 --> 01:21:29,423
לעשות את החשיבה שלך לפני
קורה מצב מלחיץ,

1895
01:21:29,456 --> 01:21:30,991
זה כמעט תמיד
רעיון טוב.

1896
01:21:31,024 --> 01:21:32,226
ולכתוב את זה מועיל.

1897
01:21:32,259 --> 01:21:34,128
-להיות מוכן מועיל.
-כֵּן.

1898
01:21:34,962 --> 01:21:36,397
(נאנח) אתה...

1899
01:21:36,430 --> 01:21:39,233
זה יהיה בלתי אפשרי
כדי שאשב מולך

1900
01:21:39,266 --> 01:21:41,669
ו-ולבקש ממך להבטיח לי
שזה הולך טוב?

1901
01:21:41,703 --> 01:21:43,504
זה בלתי אפשרי.

1902
01:21:44,104 --> 01:21:46,173
אין תשובות קלות,
למרבה הצער.

1903
01:21:46,206 --> 01:21:48,442
אה, כי זה כזה
טכנולוגיה חדשנית,

1904
01:21:48,475 --> 01:21:50,244
אממ, עדיין יש
הרבה אלמונים.

1905
01:21:50,277 --> 01:21:52,714
ואני חושב כך
זה-זה צריך להיות,

1906
01:21:52,747 --> 01:21:55,416
אממ, אה, אתה יודע, הבנת

1907
01:21:55,449 --> 01:21:59,554
ומכאן הצורך
בשביל, אה, אה, קצת זהירות.

1908
01:21:59,587 --> 01:22:01,288
אני מתעורר, אתה יודע, כל יום,

1909
01:22:01,321 --> 01:22:04,024
זה ה, זה ה
דבר אחד שאני חושב עליו.

1910
01:22:04,057 --> 01:22:05,459
עכשיו, תראה, אני בן אדם,

1911
01:22:05,492 --> 01:22:08,596
ואתה יודע, יש-יש
כל החלטה הייתה מושלמת?

1912
01:22:08,630 --> 01:22:12,166
אני יכול אפילו לומר את המניעים שלי
תמיד היו ברורים לחלוטין?

1913
01:22:12,199 --> 01:22:14,101
כמובן שלא.
אף אחד לא יכול להגיד את זה.

1914
01:22:14,134 --> 01:22:17,004
כאילו, זהו-זהו
רק לא, כאילו, אתה יודע--

1915
01:22:17,037 --> 01:22:19,173
זה-זה פשוט לא
איך אנשים עובדים.

1916
01:22:19,206 --> 01:22:21,408
ההיסטוריה של המדע
נוטה להיות זה,

1917
01:22:21,442 --> 01:22:23,745
לטוב ולרע,
אם משהו אפשרי לעשות--

1918
01:22:23,778 --> 01:22:27,414
ועכשיו אנחנו יודעים ש-AI אפשרי
לעשות-- האנושות עושה את זה.

1919
01:22:27,448 --> 01:22:30,217
כל זה
עמד לקרות.

1920
01:22:30,250 --> 01:22:32,587
זו-הרכבת הזו
לא יפסיק.

1921
01:22:32,620 --> 01:22:34,722
אתה לא יכול לצעוד לפני
את הרכבת ולעצור אותה.

1922
01:22:34,756 --> 01:22:36,724
אתה פשוט הולך להידחק.

1923
01:22:36,758 --> 01:22:39,226
אלטמן:
כלומר, זה מאוד מלחיץ.

1924
01:22:40,194 --> 01:22:41,462
אתה יודע, יש, כאילו,

1925
01:22:41,495 --> 01:22:43,197
הרבה דברים
רבים מאיתנו לא יודעים.

1926
01:22:43,230 --> 01:22:47,000
אני חושב שההיסטוריה
של גילוי מדעי הוא

1927
01:22:47,034 --> 01:22:48,736
אחד של לא לדעת
מה שאתה לא יודע

1928
01:22:48,770 --> 01:22:50,204
ולהבין תוך כדי.

1929
01:22:50,237 --> 01:22:53,575
אה, אבל, כן, זה...

1930
01:22:53,608 --> 01:22:55,976
זו דרך מלחיצה לחיות.

1931
01:22:56,811 --> 01:22:59,246
דניאל: נכון. סם, תודה
מאוד על שעושים זאת.

1932
01:22:59,279 --> 01:23:01,081
-ושוב, מזל טוב.
-תודה לך. וגם לך.

1933
01:23:01,114 --> 01:23:03,383
תודה רבה לך. תודה, חבר'ה.

1934
01:23:03,417 --> 01:23:06,253
♪ ♪

1935
01:23:08,388 --> 01:23:09,990
(אנחות)

1936
01:23:11,593 --> 01:23:13,528
(חשמל מתפצפץ)

1937
01:23:13,561 --> 01:23:16,363
-(סדקי רעם)
- (מצקצק, נהנה)

1938
01:23:43,190 --> 01:23:45,392
-(קליקים של מכשיר וידאו)
-(צלצול קו)

1939
01:23:48,328 --> 01:23:49,797
-(לחיצות שורה)
-קווין רוהר: <i>שלום.</i>

1940
01:23:49,831 --> 01:23:51,131
דניאל:
<i>היי, אבא, מה שלומך?</i>

1941
01:23:51,164 --> 01:23:52,165
קווין:
<i>טוב. מה שלומך?</i>

1942
01:23:52,199 --> 01:23:53,500
<i>אתה עובד? מה אתה זומם?</i>

1943
01:23:53,535 --> 01:23:55,770
דניאל:
<i>אני עובד על סרט הבינה המלאכותית הזה.</i>

1944
01:23:55,803 --> 01:23:58,305
קווין:
<i>ואיך זה הולך?</i>

1945
01:23:58,338 --> 01:24:00,708
דניאל:
<i>אתה יודע, זה... זה באמת...</i>

1946
01:24:00,742 --> 01:24:02,544
-ג'ואן רוהר: <i>היי, מתוקה.</i>
-דניאל: <i>היי, אמא.</i>

1947
01:24:02,577 --> 01:24:04,344
ג'ואן: <i>אז מה זה</i>
<i>הנחת היסוד של הסרט?</i>

1948
01:24:04,378 --> 01:24:07,180
<i>האם זה סרט תיעודי?</i>
<i>קב, אל תשתמש בעוד תבלינים.</i>

1949
01:24:07,214 --> 01:24:08,816
<i>זה כבר מתובל יתר על המידה.</i>

1950
01:24:08,850 --> 01:24:10,718
<i>אנחנו מכינים עוף עכשיו.</i>

1951
01:24:10,752 --> 01:24:13,186
<i>-האם זה סרט תיעודי או מה...</i>
-דניאל: <i>זה על--</i>

1952
01:24:13,220 --> 01:24:14,421
<i>הסרט עוסק ב</i>
<i>סוף העולם.</i>

1953
01:24:14,454 --> 01:24:16,290
<i>סוף העולם בא,</i>

1954
01:24:16,323 --> 01:24:18,158
<i>ואנחנו יוצרים סרט</i>
<i>על סוף העולם.</i>

1955
01:24:18,191 --> 01:24:20,327
-ג'ואן: <i>באמת?</i>
-דניאל: <i>כן.</i>

1956
01:24:20,360 --> 01:24:22,162
קווין: <i>סוג של מדכא</i>
<i>סרט, זה נשמע כמו.</i>

1957
01:24:22,195 --> 01:24:23,698
ג'ואן:
<i>כן.</i>

1958
01:24:23,731 --> 01:24:29,436
דניאל: <i>אני מרגיש הרבה,</i>
<i>כמו-- חרדה מאוד חריפה זו.</i>

1959
01:24:29,469 --> 01:24:31,673
ג'ואן: <i>זה כל כך מפחיד,</i>
<i>אבל חייב להיות--</i>

1960
01:24:31,706 --> 01:24:35,810
<i>אתם יודעים, האם נפגשתם</i>
<i>כמה-כמה אנשים סופר-חכמים</i>

1961
01:24:35,843 --> 01:24:38,312
<i>שנותנים לך תשובות כלשהן?</i>

1962
01:24:38,345 --> 01:24:40,113
דניאל: <i>זה מה שיש</i>
<i>מתסכל על זה.</i>

1963
01:24:40,147 --> 01:24:41,683
<i>אף אחד לא יודע.</i>

1964
01:24:41,716 --> 01:24:44,384
ג'ואן:
<i>כל מה שאני יכול לומר על זה הוא ש</i>

1965
01:24:44,418 --> 01:24:50,190
<i>לכל דור היה</i>
<i>משהו מפחיד כזה.</i>

1966
01:24:50,223 --> 01:24:52,760
קווין: <i>כשנולדתי, זה היה</i>
<i>משבר הטילים בקובה.</i>

1967
01:24:52,794 --> 01:24:54,596
(דופק קבוע)

1968
01:24:54,629 --> 01:24:56,864
<i>פשוט פחדתי ששם</i>
<i>עמדה להיות מלחמה גרעינית.</i>

1969
01:24:56,898 --> 01:24:58,298
ג'ואן:
<i>כן, אבל לא ידענו</i>

1970
01:24:58,332 --> 01:24:59,534
<i>מה הם התכוונו לעשות ו...</i>

1971
01:24:59,567 --> 01:25:01,168
קווין:
<i>והעולם לא נגמר.</i>

1972
01:25:01,201 --> 01:25:02,202
<i>כולם התעוררו</i>
<i>למחרת בבוקר,</i>

1973
01:25:02,235 --> 01:25:03,871
<i>ואנחנו עדיין עושים את שלנו.</i>

1974
01:25:03,905 --> 01:25:05,439
דניאל:
<i>אני מאוד מפחד,</i>

1975
01:25:05,472 --> 01:25:07,407
<i>במיוחד ב</i>
<i>ההקשר של, כמו,</i>

1976
01:25:07,441 --> 01:25:09,577
<i>-אתם יודעים, התינוק ו...</i>
-(פעימות הלב של העובר)

1977
01:25:09,611 --> 01:25:11,178
קווין:
<i>זו תהיה עקומת למידה.</i>

1978
01:25:11,211 --> 01:25:12,479
ג'ואן:
<i>אתה תהיה בסדר.</i>

1979
01:25:12,513 --> 01:25:13,681
קווין: <i>אתה לא יכול,</i>
<i>אי אפשר לחשוב על</i>

1980
01:25:13,715 --> 01:25:14,849
<i>מה אתה לא יכול לשלוט, דניאל.</i>

1981
01:25:14,882 --> 01:25:16,551
<i>רק תזכור את זה.</i>

1982
01:25:16,584 --> 01:25:18,251
דניאל (שובר קול):
<i>אני באמת, אני באמת מרגיש</i>

1983
01:25:18,285 --> 01:25:19,587
<i>עצבני ומפוחד מזה.</i>

1984
01:25:19,621 --> 01:25:21,488
<i>יש כל כך הרבה</i>
<i>שאני לא יכול לשלוט בהם.</i>

1985
01:25:21,522 --> 01:25:24,358
קווין: <i>אל תהיה עצבני.</i>
<i>אתה לא יכול לתת לזה להגיע אליך.</i>

1986
01:25:24,391 --> 01:25:26,794
<i>אתה יכול רק לשלוט</i>
<i>במה אתה יכול לשלוט,</i>

1987
01:25:26,828 --> 01:25:28,395
<i>וזה כל מה שאתה יכול לעשות.</i>

1988
01:25:28,428 --> 01:25:31,231
<i>אי אפשר לעשות יותר מזה.</i>

1989
01:25:31,264 --> 01:25:33,433
<i>כתוב את זה בספר שלך.</i>

1990
01:25:35,870 --> 01:25:37,572
♪ ♪

1991
01:25:44,712 --> 01:25:47,447
(פעימות הלב של העובר)

1992
01:25:47,481 --> 01:25:49,651
(ילל)

1993
01:25:49,684 --> 01:25:52,219
קרוליין:
<i>כשאתה מסתכל אחורה,</i>

1994
01:25:52,252 --> 01:25:54,922
<i>העולם תמיד מסתיים.</i>

1995
01:25:54,956 --> 01:25:57,357
<i>וכשאתה מסתכל קדימה,</i>

1996
01:25:57,391 --> 01:25:59,627
<i>העולם תמיד מסתיים.</i>

1997
01:25:59,661 --> 01:26:02,429
...על האש.
בית אחד כבר בוער...

1998
01:26:02,462 --> 01:26:06,299
קרוליין: <i>אבל העולם</i>
<i>גם הוא תמיד מתחיל.</i>

1999
01:26:08,402 --> 01:26:10,437
דניאל:
האם אתה מוכן?

2000
01:26:10,470 --> 01:26:12,674
האם אי פעם אתה באמת מוכן?

2001
01:26:16,443 --> 01:26:18,278
דניאל: אתה רוצה לנהוג
או שאתה רוצה שאני אנהג?

2002
01:26:18,311 --> 01:26:19,547
קרוליין:
אתה נוהג.

2003
01:26:20,815 --> 01:26:22,382
-(אישה מדברת בצורה לא ברורה)
-קרוליין: בסדר.

2004
01:26:22,416 --> 01:26:24,284
דניאל:
תודה לך, מריה.

2005
01:26:24,317 --> 01:26:26,654
אישה: זה פשוט הולך
מרגיש ממש כואב.

2006
01:26:26,688 --> 01:26:28,355
-קרוליין: <i>בסדר.</i>
-אישה: <i>את מוכנה?</i>

2007
01:26:28,388 --> 01:26:29,691
-קרוליין: <i>כן.</i>
<i>-(פטפוט לא ברור)</i>

2008
01:26:29,724 --> 01:26:30,958
<i>(קרוליין נאנחת בכבדות)</i>

2009
01:26:30,992 --> 01:26:33,326
אישה: <i>את יכולה להיות ב</i>
<i>דרמה רפואית עם כל זה...</i>

2010
01:26:34,595 --> 01:26:36,597
♪ ♪

2011
01:26:44,706 --> 01:26:46,607
-(פצפצים סטטיים)
<i>-(פטפוט לא ברור)</i>

2012
01:26:49,610 --> 01:26:51,746
אישה:
<i>... קצת לחץ.</i>

2013
01:26:53,313 --> 01:26:54,749
<i>פשוט תירגע.</i>

2014
01:26:57,451 --> 01:26:59,821
<i>-(תינוק בוכה)</i>
<i>-(מכשיר מצפצף)</i>

2015
01:27:02,623 --> 01:27:05,626
דניאל:
<i>היי, חבר. אוהו.</i>

2016
01:27:05,660 --> 01:27:06,961
<i>היי, חבר.</i>

2017
01:27:06,994 --> 01:27:09,362
♪ ♪

2018
01:27:31,652 --> 01:27:34,321
קווין:
<i>זה הולך להיות עולם חדש לגמרי</i>

2019
01:27:34,354 --> 01:27:35,723
<i>בשבילך, דניאל.</i>

2020
01:27:37,658 --> 01:27:40,762
<i>ואני חושב שאתה הולך להיות</i>
<i>אב מדהים.</i>

2021
01:27:41,863 --> 01:27:44,899
ג'ואן (מצחקקת):
<i>זה בטוח.</i>

2022
01:27:44,932 --> 01:27:47,068
<i>-(קווין בוכה)</i>
<i>-הו.</i>

2023
01:27:47,101 --> 01:27:49,302
<i>(הבכי ממשיך)</i>

2024
01:27:49,336 --> 01:27:51,572
קווין:
<i>אתה תעשה עבודה נהדרת.</i>

2025
01:27:52,206 --> 01:27:53,541
ג'ואן:
<i>קב, למה אתה בוכה?</i>

2026
01:27:53,574 --> 01:27:55,076
קווין:
<i>אני בוכה כי...</i>

2027
01:27:55,109 --> 01:27:57,545
<i>אני לא יודע. אני פשוט לא...</i>

2028
01:27:57,578 --> 01:27:59,914
דניאל: <i>אבא, אתה הולך</i>
<i>גרום לי לבכות גם.</i>

2029
01:27:59,947 --> 01:28:01,549
<i>למה אתה בוכה?</i>

2030
01:28:03,651 --> 01:28:05,853
קווין: <i>אני פשוט יודע את זה</i>
<i>אתה הולך להיות אבא מדהים.</i>

2031
01:28:05,887 --> 01:28:07,655
דניאל (בוכה):
<i>אני אהיה רק אבא נהדר</i>

2032
01:28:07,688 --> 01:28:09,957
<i>כי היה לי אבא נהדר.</i>

2033
01:28:09,991 --> 01:28:12,894
קווין: <i>אני נהיה רגשי,</i>
<i>זה הכל.</i>

2034
01:28:12,927 --> 01:28:14,327
ג'ואן:
<i>אוי.</i>

2035
01:28:14,361 --> 01:28:15,462
(פטפוט שובב על וידאו)

2036
01:28:15,495 --> 01:28:17,064
(מעל סרטון):
ילד, הו, ילד!

2037
01:28:17,098 --> 01:28:18,633
אלוהים אדירים!

2038
01:28:19,267 --> 01:28:21,035
תראה את החצופות הקטנות האלה.

2039
01:28:21,068 --> 01:28:25,573
תראה את החצופות הקטנות האלה.
תראה את החצופות הקטנות האלה.

2040
01:28:25,606 --> 01:28:26,741
כֵּן.

2041
01:28:26,774 --> 01:28:29,376
דניאל:
<i>אני יודע איך לסיים את הסרט הזה.</i>

2042
01:28:30,011 --> 01:28:31,712
<i>תינוקות.</i>

2043
01:28:32,379 --> 01:28:35,883
<i>-הסוף של הסרט הוא בערך</i>
<i>תינוקות.</i> -(פטפטו בסרטונים)

2044
01:28:35,917 --> 01:28:37,618
<i>הם מאשרי חיים.</i>

2045
01:28:37,652 --> 01:28:39,486
<i>הם מתישים.</i>

2046
01:28:39,520 --> 01:28:41,421
-(תינוק צוחק)
<i>-הם מצחיקים.</i>

2047
01:28:41,454 --> 01:28:42,957
<i>והם שווים את זה.</i>

2048
01:28:42,990 --> 01:28:46,828
<i>הסרט הזה לא עוסק ב</i>
<i>פעולה פנימית של טכנולוגיה.</i>

2049
01:28:46,861 --> 01:28:48,696
<i>זה לא קשור ל</i>
<i>המנכ"לים המיליארדרים.</i>

2050
01:28:48,729 --> 01:28:50,665
<i>זה לא קשור לגיאופוליטיקה.</i>

2051
01:28:50,698 --> 01:28:53,935
<i>זה לא קשור למפחיד</i>
<i>עתיד או סוף העולם,</i>

2052
01:28:53,968 --> 01:28:56,137
<i>בגלל העולם שלי</i>
<i>רק מתחיל.</i>

2053
01:28:56,170 --> 01:28:57,972
אני בונה עריסה.

2054
01:28:58,005 --> 01:28:59,907
<i>ממש כאן, ממש עכשיו.</i>

2055
01:28:59,941 --> 01:29:01,008
(תינוק משתולל)

2056
01:29:01,042 --> 01:29:02,743
<i>AI עומד לשנות הכל</i>

2057
01:29:02,777 --> 01:29:05,913
<i>בדרכים חזקות מדי ו</i>
<i>מורכב לנו להבין.</i>

2058
01:29:05,947 --> 01:29:09,717
<i>והעתיד לא</i>
<i>לכל אחד מאיתנו להחליט.</i>

2059
01:29:10,818 --> 01:29:13,921
<i> אבל מה שאני יכול להחליט זה להיות</i>
<i>הבעל הטוב ביותר האפשרי</i>

2060
01:29:13,955 --> 01:29:17,992
<i>עבור אשתי והטובים ביותר</i>
<i>אבא אפשרי עבור הבן שלי.</i>

2061
01:29:18,025 --> 01:29:21,796
<i>אז האם עתיד הבינה המלאכותית שלנו הוא</i>
<i>דיסטופיה מסויטת</i>

2062
01:29:21,829 --> 01:29:24,098
<i>או האוטופיה</i>
<i>שכולנו חולמים עליו,</i>

2063
01:29:24,131 --> 01:29:27,134
<i>לפחות אדע</i>
<i>שעשיתי כל מה שיכולתי</i>

2064
01:29:27,168 --> 01:29:30,605
<i>להדריך את המשפחה שלי</i>
<i>דרך מהפכת הבינה המלאכותית הזו.</i>

2065
01:29:30,638 --> 01:29:34,474
<i>ולא משנה מה,</i>
<i>אנחנו נתמודד עם זה ביחד.</i>

2066
01:29:34,508 --> 01:29:35,877
(מוזיקה מרוממת מתנפחת)

2067
01:29:35,910 --> 01:29:37,444
(המוזיקה נעצרת בפתאומיות)

2068
01:29:37,477 --> 01:29:40,047
דניאל:
אז זה רק הרעיון הראשון שלנו.

2069
01:29:40,715 --> 01:29:43,084
איך זה מרגיש?
אתה מרגיש את זה?

2070
01:29:43,117 --> 01:29:45,720
רגע, אני-- כאילו, זה לא--
זו בדיחה.

2071
01:29:45,753 --> 01:29:48,388
זה לא בעצם
איך אתה הולך לסיים את זה.

2072
01:29:50,591 --> 01:29:53,160
כלומר, זה רק רעיון. בְּסֵדֶר?

2073
01:29:53,194 --> 01:29:54,996
לא, דניאל.

2074
01:29:55,029 --> 01:29:56,631
...אה, מאוד מאוד מטומטם.

2075
01:29:56,664 --> 01:29:59,166
הרגע בזבזת, אני לא
יודע, כאילו, כמה שנים

2076
01:29:59,200 --> 01:30:03,104
מהחיים שלנו עובדים על זה,
מדבר עם כל מומחה מוביל

2077
01:30:03,137 --> 01:30:05,539
על הפלנטה על הנושא,

2078
01:30:05,573 --> 01:30:08,175
ואתה תסיים את זה

2079
01:30:08,209 --> 01:30:11,444
עם כמה, כמו,
שטויות קומבייה?

2080
01:30:11,478 --> 01:30:14,048
יש אסטרואיד
פנה לכדור הארץ.

2081
01:30:14,081 --> 01:30:15,917
מה אתה עושה? פשוט...

2082
01:30:15,950 --> 01:30:18,152
להחזיק ידיים
ומקווה שזה יסתדר?

2083
01:30:18,185 --> 01:30:19,854
ממש לא.

2084
01:30:19,887 --> 01:30:22,924
אנחנו חייבים--זה הא--
זה חייב להיות...

2085
01:30:22,957 --> 01:30:25,026
הסוף חייב...

2086
01:30:26,493 --> 01:30:28,529
קרוליין:
<i>בסדר, דבר ראשון:</i>

2087
01:30:28,562 --> 01:30:32,033
<i>AI נמצא כאן,</i>
<i>וזה כאן כדי להישאר.</i>

2088
01:30:32,066 --> 01:30:33,534
החרא יצא מהסוס,

2089
01:30:33,567 --> 01:30:36,436
<i>אבל הסוס הוא</i>
<i>תמשיך לחרבן.</i>

2090
01:30:38,873 --> 01:30:39,807
(המון מריע)

2091
01:30:39,840 --> 01:30:41,943
אתה יודע, אחד הבסיסיים
חוקי ההיסטוריה

2092
01:30:41,976 --> 01:30:44,578
האם זה כלום
באמת יש התחלה

2093
01:30:44,612 --> 01:30:46,580
ולשום דבר אין סוף.

2094
01:30:46,614 --> 01:30:48,049
זה רק ממשיך.

2095
01:30:48,082 --> 01:30:50,918
AI לא קרוב
הפיתוח המלא שלו.

2096
01:30:50,952 --> 01:30:53,087
קרוליין: <i>גם אם</i>
<i>בועת הבינה המלאכותית הנוכחית מתפוצצת,</i>

2097
01:30:53,120 --> 01:30:54,956
<i>-בני אדם לעולם לא יפסיקו</i>
-(מכות רעש)

2098
01:30:54,989 --> 01:30:57,959
<i>בונים עוד ועוד</i>
<i>טכנולוגיה רבת עוצמה.</i>

2099
01:30:57,992 --> 01:30:59,827
HAO:
<i>תוכל לבחור לא להשתמש ב-AI</i>

2100
01:30:59,860 --> 01:31:02,730
או להשתתף בו, אבל זה כן
ישפיע עליך בכל מקרה.

2101
01:31:02,763 --> 01:31:04,231
דניאל: אוקיי, פנטסטי.
אז אנחנו דפוקים.

2102
01:31:04,265 --> 01:31:07,568
קרוליין: לא, אנחנו לא
בגלל דבר אחד פשוט.

2103
01:31:11,572 --> 01:31:13,574
זה לא בלתי נמנע.

2104
01:31:13,607 --> 01:31:15,576
אם רק יכולנו לראות את זה
ברור ביחד,

2105
01:31:15,609 --> 01:31:18,813
התגובה הברורה תהיה
לבחור משהו אחר.

2106
01:31:18,846 --> 01:31:21,615
אנחנו צריכים מאוד ברור
לשנות את המשחק

2107
01:31:21,649 --> 01:31:23,517
ממירוץ לתחתית
למירוץ לצמרת.

2108
01:31:23,551 --> 01:31:27,855
ליהי: הבעיה שאנחנו צריכים
לפתור זה לא AI ספציפית.

2109
01:31:27,888 --> 01:31:31,726
זו השאלה הכללית
איך אנחנו בונים חברה

2110
01:31:31,759 --> 01:31:34,528
שיכול להתמודד איתו
טכנולוגיה רבת עוצמה.

2111
01:31:34,562 --> 01:31:35,830
כי אנחנו הולכים לקבל

2112
01:31:35,863 --> 01:31:37,264
רק חזק יותר ויותר
טכנולוגיה.

2113
01:31:37,298 --> 01:31:40,034
קרוליין:
<i>אנחנו צריכים לשדרג את החברה שלנו,</i>

2114
01:31:40,067 --> 01:31:41,902
<i>והשלב הראשון הוא</i>
<i>נפגשים</i>

2115
01:31:41,936 --> 01:31:43,838
<i>-ודורש...</i>
-הכל: תיאום.

2116
01:31:43,871 --> 01:31:47,608
צורה כלשהי של בינלאומי
שיתוף פעולה או הסכם לגבי

2117
01:31:47,641 --> 01:31:48,909
מה צריכות להיות הנורמות.

2118
01:31:48,943 --> 01:31:50,544
אתה יודע, איך צריך
הם יוצבו...

2119
01:31:50,578 --> 01:31:52,146
כאילו, אמיתי
דיפלומטיה בינלאומית

2120
01:31:52,179 --> 01:31:53,781
בין המעצמות.

2121
01:31:53,814 --> 01:31:56,784
הסינים מודאגים באותה מידה
על זה כמו האמריקאים.

2122
01:31:56,817 --> 01:31:58,085
אני חושב שזה קשה,
אתה יודע,

2123
01:31:58,119 --> 01:31:59,920
בזרם
אקלים גיאופוליטי,

2124
01:31:59,954 --> 01:32:01,756
אבל אני חושב שזה הכרחי.
-RASKIN: <i>בהחלט.</i>

2125
01:32:01,789 --> 01:32:05,059
בדיוק באותה צורה
הפעם האחרונה שבה האנושות

2126
01:32:05,092 --> 01:32:09,163
<i>פיתח טכנולוגיה</i>
<i>זה מסוכן...</i>

2127
01:32:09,830 --> 01:32:12,900
...שדרש השלמה,
שינוי חסר תקדים

2128
01:32:12,933 --> 01:32:15,169
<i>למבנה העולם שלנו.</i>

2129
01:32:15,770 --> 01:32:18,172
קרוליין:
<i>אז אנחנו צריכים לעשות את זה שלם,</i>

2130
01:32:18,205 --> 01:32:20,307
<i>שוב שינוי חסר תקדים.</i>

2131
01:32:21,008 --> 01:32:24,678
אתה יודע, אנחנו-אנחנו מדברים עם אנשים
שעובדים בחברות הבינה המלאכותית האלה,

2132
01:32:24,712 --> 01:32:25,846
והם אומרים שהם רוצים לעשות
משהו אחר,

2133
01:32:25,880 --> 01:32:27,048
אבל הם צריכים לחץ ציבורי.

2134
01:32:27,081 --> 01:32:28,716
הם צריכים את הממשלה
לעשות משהו.

2135
01:32:28,749 --> 01:32:30,217
אז אנחנו הולכים ל-DC,
והם אומרים,

2136
01:32:30,251 --> 01:32:32,153
"טוב, אנחנו צריכים עמק הסיליקון
לעשות משהו אחר.

2137
01:32:32,186 --> 01:32:34,021
הם אלה שהולכים
בוא עם מעקות הבטיחות".

2138
01:32:34,055 --> 01:32:36,057
וכך כולם מצביעים
האצבע לעבר מישהו אחר,

2139
01:32:36,090 --> 01:32:39,927
ומה שהם מסכימים עליו זה
שאנחנו צריכים לחץ ציבורי

2140
01:32:39,960 --> 01:32:41,796
על מנת למשהו אחר
לקרות.

2141
01:32:41,829 --> 01:32:43,164
וזה מה שאתה

2142
01:32:43,197 --> 01:32:44,799
וכל האנשים
צפייה בסרט הזה יכולה לעשות.

2143
01:32:44,832 --> 01:32:45,833
קרוליין:
<i>אנחנו צריכים להחזיק את המנהיגים</i>

2144
01:32:45,866 --> 01:32:47,334
<i>בממשלות שלנו</i>

2145
01:32:47,368 --> 01:32:48,969
<i>והמנהיגים של</i>
<i>חברות אלו אחראיות.</i>

2146
01:32:49,003 --> 01:32:51,639
BOEREE:
<i>באיזו מדינה אתה נמצא,</i>

2147
01:32:51,672 --> 01:32:53,340
ליידע אותם
שאתה לא שמח

2148
01:32:53,374 --> 01:32:54,975
עם הסטטוס קוו הנוכחי.

2149
01:32:55,009 --> 01:32:57,678
אז, כן, זה משעמם לומר
תתקשר לחבר הקונגרס שלך.

2150
01:32:57,711 --> 01:32:59,880
אני לא אומר שצריך
פשוט תעשה את זה, אבל, כאילו,

2151
01:32:59,914 --> 01:33:01,215
אנחנו חייבים לעשות את זה.

2152
01:33:01,248 --> 01:33:02,883
כאילו, אנחנו חייבים לקבל
הממשלה המעורבת.

2153
01:33:02,917 --> 01:33:04,185
דניאל: אז אנחנו פשוט
תתקשר אליהם ותגיד,

2154
01:33:04,218 --> 01:33:06,253
"היי, תפסיק עם ביג טק
מלהרוס את העולם"?

2155
01:33:06,287 --> 01:33:09,223
קרוליין: לא, אבל יש
טונות של ממש ברור,

2156
01:33:09,256 --> 01:33:11,225
דברים ישרים
אנחנו יכולים להיות תובעניים.

2157
01:33:11,258 --> 01:33:12,960
אנחנו צריכים שקיפות.

2158
01:33:12,993 --> 01:33:14,795
צריך לשים קץ לסודיות
שקיים בתוך המעבדות האלה,

2159
01:33:14,829 --> 01:33:17,031
כי הם בונים
טכנולוגיה חזקה,

2160
01:33:17,064 --> 01:33:19,066
ולציבור מגיע לדעת
מה קורה.

2161
01:33:19,100 --> 01:33:21,068
בסופו של דבר,
נצטרך עצמאיים,

2162
01:33:21,102 --> 01:33:23,637
צדדים שלישיים אובייקטיביים
להעריך את המערכות.

2163
01:33:23,671 --> 01:33:27,274
אנחנו לא יכולים לסמוך על החברות
לדרג את שיעורי הבית שלהם.

2164
01:33:27,308 --> 01:33:31,378
אם-אם חברה משתמשת בבינה מלאכותית ו-ו
יש AI באינטראקציה איתך,

2165
01:33:31,412 --> 01:33:35,249
זה צריך לחשוף שאתה כן
אינטראקציה עם מערכת AI.

2166
01:33:35,282 --> 01:33:39,019
כֵּן. ו-וגם אנחנו צריכים
מערכת שעושה חברות

2167
01:33:39,053 --> 01:33:42,156
אחריות משפטית עבור
מערכות AI שהם מייצרים.

2168
01:33:42,189 --> 01:33:46,293
אנחנו צריכים לוודא את זה שם
הם בדיקות ותקני בטיחות

2169
01:33:46,327 --> 01:33:48,662
המוחלים על כולם.

2170
01:33:48,696 --> 01:33:50,097
אנחנו צריכים כמה כללי יסוד,

2171
01:33:50,131 --> 01:33:51,999
ואנחנו צריכים להמשיך להסתגל
את הכללים האלה

2172
01:33:52,032 --> 01:33:55,002
במהירות שבה
הטכנולוגיה מתפתחת.

2173
01:33:55,035 --> 01:33:57,738
LEAHY: <i>יש כרגע</i>
<i>רגולציה נוספת</i>

2174
01:33:57,771 --> 01:33:59,840
<i>על מכירת כריך</i>
<i>לציבור</i>

2175
01:33:59,874 --> 01:34:03,410
ממה שיש בבניין
AGI שעלול להגיע לסוף העולם.

2176
01:34:03,444 --> 01:34:05,279
קרוליין:
<i>והדבר האחרון הוא</i>

2177
01:34:05,312 --> 01:34:07,214
<i>לשדרג את עצמנו.</i>

2178
01:34:07,915 --> 01:34:10,284
זה לא, כאילו, העבודה
של, כמו, צוות הבטיחות

2179
01:34:10,317 --> 01:34:12,153
בכל מעבדה נתונה, או במנכ"ל.

2180
01:34:12,186 --> 01:34:13,854
אז, כאילו, זהו
העבודה של כולם.

2181
01:34:13,888 --> 01:34:15,156
אל תעזוב את זה, כאילו
עד למומחי הבינה המלאכותית.

2182
01:34:15,189 --> 01:34:17,424
כאילו, (ביפ) את זה.
כאילו, זה הרגע

2183
01:34:17,458 --> 01:34:19,460
שאנחנו עוברים מעבר
מ, כמו,

2184
01:34:19,493 --> 01:34:22,163
בעיקר כוח קוגניטיבי אנושי
לכוח קוגניטיבי בינה מלאכותית,

2185
01:34:22,196 --> 01:34:23,197
וזה משפיע על כולם,

2186
01:34:23,230 --> 01:34:25,166
ואני רוצה שאנשים יהיו
בשיח הזה.

2187
01:34:25,199 --> 01:34:27,234
ואני הייתי אומר, אם אתה חושב
שה-AI יהרוג את כולנו,

2188
01:34:27,268 --> 01:34:28,969
אתה אמור לעבוד
במחקר AI

2189
01:34:29,003 --> 01:34:30,804
כדי לוודא שלא,
כי יש לך

2190
01:34:30,838 --> 01:34:32,773
כמות עצומה של סוכנות.

2191
01:34:32,806 --> 01:34:34,208
קרוליין:
<i>מי שלא תהיה,</i>

2192
01:34:34,241 --> 01:34:36,177
<i>אתה מומחה</i>
<i>בתעשייה משלך,</i>

2193
01:34:36,210 --> 01:34:39,413
<i>בבית הספר שלך,</i>
<i>במשפחה שלך,</i>

2194
01:34:39,446 --> 01:34:43,050
<i>וזה תלוי בך</i>
<i>איך משתמשים בבינה מלאכותית בחייך.</i>

2195
01:34:43,083 --> 01:34:45,319
בין אם אתה רוצה להצטרף
מועצת בית הספר שלך

2196
01:34:45,352 --> 01:34:48,389
או-או אם אתה רוצה לשאול
המעסיק שלך

2197
01:34:48,422 --> 01:34:49,924
איך הם משתמשים
טכנולוגיות AI,

2198
01:34:49,957 --> 01:34:52,259
כאילו, כולנו יכולים לעשות את העבודה.

2199
01:34:52,293 --> 01:34:56,330
היו הרבה איגודים
די יעיל ב, כמו,

2200
01:34:56,363 --> 01:34:59,333
<i>מחליטים איך הם רוצים</i>
<i>ליצור אינטראקציה עם מערכות אלו.</i>

2201
01:34:59,366 --> 01:35:02,303
<i>-איגודי אחיות, איגודי מורים.</i>
- (מזמורים לא ברורים)

2202
01:35:02,937 --> 01:35:05,039
DANIELA AMODEI: <i>אני אשמח</i>
<i>אם הורים בכל מקום</i>

2203
01:35:05,072 --> 01:35:06,407
הלך לחברות בינה מלאכותית
ואמר,

2204
01:35:06,440 --> 01:35:08,342
"איך אתה יכול להיות טוב יותר
על זה?" כולל אותנו.

2205
01:35:08,375 --> 01:35:11,445
אז הקמתי את Encode Justice
כשהייתי בן 15.

2206
01:35:11,478 --> 01:35:15,082
<i>אנחנו הראשונים בעולם</i>
<i>והצבא הגדול ביותר של צעירים</i>

2207
01:35:15,115 --> 01:35:18,452
<i>נלחם למען מרכז האדם</i>
<i>בינה מלאכותית.</i>

2208
01:35:18,485 --> 01:35:21,288
זה לא משנה מי אתה,
אפילו הפעולות הקטנות ביותר עוזרות,

2209
01:35:21,322 --> 01:35:24,291
ואפילו שיחה מתחילה
הוא באמת מאוד יקר.

2210
01:35:24,325 --> 01:35:26,293
דניאל:
<i>אז העבודה שלי יכולה להיות, כמו,</i>

2211
01:35:26,327 --> 01:35:28,295
<i>ספר לבובי לילה על זה</i>
<i>בארוחת ערב?</i>

2212
01:35:28,329 --> 01:35:30,364
קרוליין: <i>בכנות, כן,</i>
<i>זה חלק מזה.</i>

2213
01:35:30,397 --> 01:35:32,099
ואנחנו נצטרך לעשות

2214
01:35:32,132 --> 01:35:34,969
הרבה דברים ש
עוד לא חשבנו עליו.

2215
01:35:35,002 --> 01:35:36,503
אנשים הולכים להסתכל על
כל מה שתיארנו

2216
01:35:36,538 --> 01:35:37,838
ואומר: "זה לא מספיק."

2217
01:35:37,871 --> 01:35:39,473
מה שחשוב זה שהכוחות

2218
01:35:39,507 --> 01:35:41,242
שעובדים
לקראת פתרונות

2219
01:35:41,275 --> 01:35:44,979
להתחיל לחרוג מהכוחות ש
פועלים נגד פתרונות.

2220
01:35:45,012 --> 01:35:46,947
הופכים את העולם לטוב יותר
תמיד היה קשה.

2221
01:35:46,981 --> 01:35:48,249
זה אף פעם לא היה קל.

2222
01:35:48,282 --> 01:35:50,317
כאילו, היו
הרבה דברים מחורבנים

2223
01:35:50,351 --> 01:35:52,286
שקרו בהיסטוריה,
והיה לנו--

2224
01:35:52,319 --> 01:35:54,121
כאילו, לאנשים היו
להתמודד עם זה,

2225
01:35:54,154 --> 01:35:57,191
ואז הם קמו
ושינה אותו.

2226
01:35:57,224 --> 01:36:00,894
יש מספר מטורף
של אתגרים לפנינו,

2227
01:36:00,928 --> 01:36:04,398
אבל אם נוכל לעבור אותם,

2228
01:36:04,431 --> 01:36:08,536
אנחנו יכולים לפתוח עתיד מעבר
הדמיון הפרוע ביותר שלנו.

2229
01:36:08,570 --> 01:36:10,804
קרוליין:
<i>אנחנו חייבים להתאחד</i>

2230
01:36:10,838 --> 01:36:14,875
<i>ולמצוא את הנתיב בין</i>
<i>ההבטחה והסכנה.</i>

2231
01:36:14,908 --> 01:36:17,177
<i>אנחנו לא יכולים להיות פסימיים</i>
<i>או אופטימיים.</i>

2232
01:36:17,778 --> 01:36:20,180
<i>אנחנו חייבים להפוך למשהו חדש.</i>

2233
01:36:22,182 --> 01:36:25,185
חבר שלי מתקשר אליי
אפוקליפטיסט.

2234
01:36:25,219 --> 01:36:26,186
"אפוקלאופטימיסט"?

2235
01:36:26,220 --> 01:36:28,889
אני חושב שזה יכול להיות
המילה האהובה החדשה שלי.

2236
01:36:28,922 --> 01:36:30,291
-(צוחק) -MAN: יכול להיות
השם של הסרט הזה.

2237
01:36:30,324 --> 01:36:31,892
יכול להיות שזה השם
של הסרט הזה. -(צחוק)

2238
01:36:31,925 --> 01:36:34,862
-"אפוקלאופטימיסט".
-"אפוקלאופטימיסט".

2239
01:36:34,895 --> 01:36:36,430
כֵּן.

2240
01:36:36,463 --> 01:36:37,898
אני לא מאמין באבדון.

2241
01:36:37,931 --> 01:36:39,366
אני מאמין ברוח החיים,

2242
01:36:39,400 --> 01:36:43,137
אה, ואני מאמין שבחיים כן
לגבי היכולת לפעול.

2243
01:36:43,170 --> 01:36:44,905
-(שירת הקהל)
<i>-היכולת להתייחס,</i>

2244
01:36:44,938 --> 01:36:47,141
<i>היכולת להרגיש.</i>

2245
01:36:49,376 --> 01:36:51,345
-(פטפוט משימה לא ברור)
-(מריע)

2246
01:36:51,378 --> 01:36:54,315
<i>אנחנו צריכים להכפיל את הסכום</i>
<i>עוד ועוד</i>

2247
01:36:54,348 --> 01:36:57,384
<i>על היכולות הללו</i>
<i>שיש לנו כבני אדם</i>

2248
01:36:57,418 --> 01:36:59,853
<i>מערכות רובוטיות</i>
<i>לעולם לא יהיה.</i>

2249
01:37:00,487 --> 01:37:04,559
זה הזמן ממש עכשיו
לקבל את ההחלטות האלה לגבי

2250
01:37:04,592 --> 01:37:08,062
איך להנחות אותו ולתמוך בו
במקום לחלק אותנו.

2251
01:37:08,095 --> 01:37:10,898
דניאל: זה קצת נשמע כמו
לגדל ילד.

2252
01:37:10,931 --> 01:37:12,634
זה מה שקורה. כֵּן.

2253
01:37:12,667 --> 01:37:15,035
קארולין: <i>ייתכן שיש בינה מלאכותית</i>
<i>עוד אינטליגנציה גולמית</i>

2254
01:37:15,069 --> 01:37:17,471
<i>- מאשר המוח האנושי הקטן שלנו,</i>
-(תינוק צוחק)

2255
01:37:17,504 --> 01:37:20,608
<i>אבל אנחנו הרבה יותר</i>
<i>לא רק האינטליגנציה שלנו.</i>

2256
01:37:21,208 --> 01:37:25,379
אינטליגנציה היא-יש
היכולת לפתור בעיות.

2257
01:37:25,412 --> 01:37:29,116
חוכמה היא היכולת לדעת
אילו בעיות לפתור.

2258
01:37:31,519 --> 01:37:34,188
(פטפוטים לא ברורים של הצוות)

2259
01:37:34,221 --> 01:37:35,489
דניאל:
זה יכול ללכת על המקרר שלך.

2260
01:37:35,523 --> 01:37:36,658
(צוחק)

2261
01:37:36,691 --> 01:37:38,626
יודקובסקי:
<i>אז אל תוותר.</i>

2262
01:37:38,660 --> 01:37:40,227
האנושות עשתה

2263
01:37:40,260 --> 01:37:43,030
דברים יותר קשים מזה
בהיסטוריה שלה.

2264
01:37:43,897 --> 01:37:46,967
פשוט קשה לשכנע
אנשים שהם צריכים.

2265
01:37:47,000 --> 01:37:49,336
♪ ♪

2266
01:37:52,072 --> 01:37:53,273
(שמע מפציץ)

2267
01:37:55,309 --> 01:37:57,277
דניאל: <i>אז, כשהתחלתי</i>
<i>עשיית הסרט הזה,</i>

2268
01:37:57,311 --> 01:37:59,012
<i>הייתי אומר שאני, כאילו,</i>

2269
01:37:59,046 --> 01:38:01,348
בגדול אידיוט ציני
על כל העניין הזה.

2270
01:38:01,382 --> 01:38:03,450
<i>במהלך הקורס</i>
<i>של יצירת הסרט,</i>

2271
01:38:03,484 --> 01:38:05,152
<i>הגעתי להבנה</i>
<i>זה, כמו,</i>

2272
01:38:05,185 --> 01:38:06,987
<i>זה הדבר היחיד</i>
<i>אנחנו לא יכולים להיות.</i>

2273
01:38:07,756 --> 01:38:09,990
<i>...או כל דבר אחר</i>
<i>האם תרצה לדון?</i>

2274
01:38:10,023 --> 01:38:11,992
לא. אני חושב שכיסינו הרבה.

2275
01:38:12,025 --> 01:38:13,561
-כֵּן. (מצחקק)
גבר: תודה רבה.

2276
01:38:13,595 --> 01:38:15,295
תוֹדָה.

2277
01:38:15,929 --> 01:38:17,498
דניאל:
<i>זו בעיה גדולה יותר</i>

2278
01:38:17,532 --> 01:38:19,400
<i>מכל אדם אחד.</i>

2279
01:38:19,433 --> 01:38:22,136
<i>זה ישנה את העולם ב</i>
<i>דרכים שאיננו מבינים.</i>

2280
01:38:22,169 --> 01:38:24,037
<i>זה הכל נכון.</i>

2281
01:38:24,071 --> 01:38:26,106
-(צוחק): בסדר.
-(פטפוט לא ברור)

2282
01:38:26,140 --> 01:38:28,208
דניאל:
<i>אבל מה שכן יש לנו סוכנות</i>

2283
01:38:28,242 --> 01:38:30,411
<i>זה מה שאנחנו עושים בנידון.</i>

2284
01:38:30,444 --> 01:38:33,113
ככל ש- AI גבול גדל
בעל יכולת אקספוננציאלית יותר...

2285
01:38:33,147 --> 01:38:34,682
דניאל:
<i>והמציאות</i>

2286
01:38:34,716 --> 01:38:37,151
<i>זה אם רק נחליט</i>
<i>זה חסר תקווה,</i>

2287
01:38:37,184 --> 01:38:39,420
<i>אז זה חסר סיכוי.</i>

2288
01:38:39,453 --> 01:38:41,221
...כדי לשים פחות לחץ
על כדור הארץ...

2289
01:38:41,255 --> 01:38:43,257
דניאל:
<i>אבל אם תחליט</i>

2290
01:38:43,290 --> 01:38:46,293
<i>שאתה רוצה לנסות...</i>

2291
01:38:47,194 --> 01:38:48,563
<i>...אז אתה מנסה.</i>

2292
01:38:48,596 --> 01:38:50,931
<i>וזה קשה.</i>

2293
01:38:51,733 --> 01:38:53,500
<i>אבל אתה יודע מה?</i>

2294
01:38:53,535 --> 01:38:57,137
<i>דברים גדולים נראים בלתי אפשריים</i>
<i>לפני שהם באמת קורים.</i>

2295
01:38:58,673 --> 01:39:01,676
<i>אבל כשהם לבסוף קורים,</i>

2296
01:39:01,709 --> 01:39:05,713
<i>זה בגלל מיליוני אנשים</i>
<i>נקט מיליוני פעולות</i>

2297
01:39:05,747 --> 01:39:08,182
<i>כדי לגרום להם לקרות.</i>

2298
01:39:08,215 --> 01:39:10,752
<i>וכך...</i>

2299
01:39:10,785 --> 01:39:13,220
<i>אנחנו חייבים לנסות.</i>

2300
01:39:14,087 --> 01:39:15,523
(נאנח בכבדות)

2301
01:39:21,663 --> 01:39:24,298
<i>יש יותר מדי על כף המאזניים.</i>

2302
01:39:24,331 --> 01:39:26,366
♪ ♪

2303
01:39:33,040 --> 01:39:35,375
(סרט מתפצפץ)

2304
01:39:37,545 --> 01:39:41,749
תראה את השינויים המדהימים
חווינו ושרדנו

2305
01:39:41,783 --> 01:39:43,317
מתקופת האבן,

2306
01:39:43,350 --> 01:39:46,487
ובכל זאת שינויים גדולים עוד יותר
עדיין לבוא.

2307
01:39:46,521 --> 01:39:50,090
("איבדתי את זה כדי לנסות"
מאת Son Lux מנגן)

2308
01:40:19,086 --> 01:40:21,288
♪ ♪

2309
01:40:48,181 --> 01:40:50,718
♪ מה נעשה עכשיו? ♪

2310
01:40:50,752 --> 01:40:53,755
♪ איבדנו את זה כדי לנסות ♪

2311
01:40:53,788 --> 01:40:55,690
♪ איבדנו את זה ♪

2312
01:40:55,723 --> 01:40:57,457
♪ לנסות ♪

2313
01:41:00,193 --> 01:41:02,764
♪ מה נעשה עכשיו? ♪

2314
01:41:02,797 --> 01:41:05,733
♪ איבדנו את זה כדי לנסות ♪

2315
01:41:05,767 --> 01:41:07,602
♪ איבדנו את זה ♪

2316
01:41:07,635 --> 01:41:09,469
♪ לנסות ♪

2317
01:41:12,205 --> 01:41:14,709
♪ מה אנחנו יכולים לומר עכשיו? ♪

2318
01:41:14,742 --> 01:41:17,745
♪ הפה שלנו רק משקר ♪

2319
01:41:17,779 --> 01:41:19,212
♪ הפה שלנו ♪

2320
01:41:19,246 --> 01:41:21,448
♪ רק משקר ♪

2321
01:41:25,720 --> 01:41:28,255
♪ מה אנחנו יכולים לומר עכשיו? ♪

2322
01:41:28,288 --> 01:41:31,358
♪ הפה שלנו רק משקר ♪

2323
01:41:31,391 --> 01:41:32,760
♪ הפה שלנו ♪

2324
01:41:32,794 --> 01:41:34,762
♪ רק משקר ♪

2325
01:41:34,796 --> 01:41:37,197
♪ ♪

2326
01:42:01,522 --> 01:42:04,291
♪ תיכנע וצא ♪

2327
01:42:04,324 --> 01:42:07,294
♪ אנחנו קמים בגוססים ♪

2328
01:42:07,327 --> 01:42:08,763
♪ אנחנו קמים ♪

2329
01:42:08,796 --> 01:42:11,164
♪ בגוססים ♪

2330
01:42:13,568 --> 01:42:16,336
♪ תיכנע וצא ♪

2331
01:42:16,370 --> 01:42:19,272
♪ אנחנו קמים בגוססים ♪

2332
01:42:19,306 --> 01:42:20,775
♪ אנחנו קמים ♪

2333
01:42:20,808 --> 01:42:23,176
♪ בגוססים ♪

2334
01:42:25,546 --> 01:42:28,248
♪ תיכנע וצא ♪

2335
01:42:28,281 --> 01:42:31,251
♪ אנחנו קמים בגוססים ♪

2336
01:42:31,284 --> 01:42:32,787
♪ אנחנו קמים ♪

2337
01:42:32,820 --> 01:42:35,155
♪ בגוססים ♪

2338
01:42:37,558 --> 01:42:40,293
♪ תיכנע וצא ♪

2339
01:42:40,327 --> 01:42:43,263
♪ אנחנו קמים בגוססים ♪

2340
01:42:43,296 --> 01:42:44,532
♪ אנחנו ♪

2341
01:42:44,565 --> 01:42:46,601
♪ ♪

2342
01:43:16,263 --> 01:43:18,465
♪ ♪

2343
01:43:23,336 --> 01:43:25,840
♪ הו, הו, הו, הו, הו ♪

2344
01:43:25,873 --> 01:43:27,675
♪ הו, הו, הו, הו ♪

2345
01:43:27,709 --> 01:43:28,943
♪ הו, הו ♪

2346
01:43:28,976 --> 01:43:31,913
♪ הו, הו, הו, הו, הו, הו ♪

2347
01:43:31,946 --> 01:43:33,648
♪ הו, הו, הו, הו ♪

2348
01:43:33,681 --> 01:43:34,916
♪ הו, הו ♪

2349
01:43:34,949 --> 01:43:37,552
♪ הו, הו, הו, הו, הו, הו ♪

2350
01:43:37,585 --> 01:43:40,287
♪ מה נעשה עכשיו? ♪

2351
01:43:40,320 --> 01:43:43,290
♪ איבדנו את זה כדי לנסות ♪

2352
01:43:43,323 --> 01:43:45,026
♪ איבדנו את זה ♪

2353
01:43:45,059 --> 01:43:46,861
♪ לנסות ♪

2354
01:43:46,894 --> 01:43:49,530
♪ הו, הו, הו, הו, הו, הו ♪

2355
01:43:49,564 --> 01:43:52,332
♪ מה נעשה עכשיו? ♪

2356
01:43:52,365 --> 01:43:55,335
♪ איבדנו את זה כדי לנסות ♪

2357
01:43:55,368 --> 01:43:57,038
♪ איבדנו את זה ♪

2358
01:43:57,071 --> 01:43:58,940
♪ לנסות. ♪

2359
01:43:58,973 --> 01:44:01,374
♪ ♪

2360
01:44:23,798 --> 01:44:24,865
(השיר מסתיים)